llama-cpp-hs (Index - G)

llama-cpp-hs

A
B
C
D
E
F
G
I
K
L
M
N
O
P
Q
R
S
T
U
V
Y
All

Index - G

getBatchSize	Llama.Context
getBatchThreadCount	Llama.Decode
getContextModel	Llama.Model
getContextPerformance	Llama.Performance
getContextSize	Llama.Context
getMaxDevices	Llama.Context
getMaxSeqCount	Llama.Context
getModelChatTemplate	Llama.Model
getModelDecoderStartToken	Llama.Model
getModelDescription	Llama.Model
getModelEmbeddingDim	Llama.Model
getModelHasDecoder	Llama.Model
getModelHasEncoder	Llama.Model
getModelIsRecurrent	Llama.Model
getModelMetaCount	Llama.Model
getModelMetaKeyByIndex	Llama.Model
getModelMetaValue	Llama.Model
getModelMetaValueByIndex	Llama.Model
getModelNumHeads	Llama.Model
getModelNumKVHeads	Llama.Model
getModelNumLayers	Llama.Model
getModelNumParams	Llama.Model
getModelRoPEFreqScale	Llama.Model
getModelRopeType	Llama.Model
getModelSize	Llama.Model
getModelTrainingContextSize	Llama.Model
getModelVocab	Llama.Model
getPoolingType	Llama.Context
getSamplerChainLength	Llama.Sampler
getSamplerFromChain	Llama.Sampler
getSamplerName	Llama.Sampler
getSamplerPerformance	Llama.Performance
getSamplerSeed	Llama.Sampler
getSequenceStateSize	Llama.State
getStateData	Llama.State
getStateSize	Llama.State
getThreadCount	Llama.Decode
getTimeUs	Llama.Context
getUnbatchedSize	Llama.Context
getVocabAddBOSToken	Llama.Vocab
getVocabAddEOSToken	Llama.Vocab
getVocabBosToken	Llama.Vocab
getVocabEosToken	Llama.Vocab
getVocabEotToken	Llama.Vocab
getVocabFIMMiddleToken	Llama.Vocab
getVocabFIMPADToken	Llama.Vocab
getVocabFIMPrefixToken	Llama.Vocab
getVocabFIMSeparatorToken	Llama.Vocab
getVocabFIMSuffixToken	Llama.Vocab
getVocabNlToken	Llama.Vocab
getVocabPadToken	Llama.Vocab
getVocabSepToken	Llama.Vocab
getVocabSize	Llama.Vocab
getVocabTokenAttr	Llama.Vocab
getVocabTokenCount	Llama.Vocab
getVocabTokenScore	Llama.Vocab
getVocabTokenText	Llama.Vocab
getVocabType	Llama.Model
GgmlType	Llama.Internal.Types.Params
GGML_TYPE_BF16	Llama.Internal.Types.Params
GGML_TYPE_COUNT	Llama.Internal.Types.Params
GGML_TYPE_F16	Llama.Internal.Types.Params
GGML_TYPE_F32	Llama.Internal.Types.Params
GGML_TYPE_F64	Llama.Internal.Types.Params
GGML_TYPE_I16	Llama.Internal.Types.Params
GGML_TYPE_I32	Llama.Internal.Types.Params
GGML_TYPE_I64	Llama.Internal.Types.Params
GGML_TYPE_I8	Llama.Internal.Types.Params
GGML_TYPE_IQ1_M	Llama.Internal.Types.Params
GGML_TYPE_IQ1_S	Llama.Internal.Types.Params
GGML_TYPE_IQ2_S	Llama.Internal.Types.Params
GGML_TYPE_IQ2_XS	Llama.Internal.Types.Params
GGML_TYPE_IQ2_XXS	Llama.Internal.Types.Params
GGML_TYPE_IQ3_S	Llama.Internal.Types.Params
GGML_TYPE_IQ3_XXS	Llama.Internal.Types.Params
GGML_TYPE_IQ4_NL	Llama.Internal.Types.Params
GGML_TYPE_IQ4_XS	Llama.Internal.Types.Params
GGML_TYPE_Q2_K	Llama.Internal.Types.Params
GGML_TYPE_Q3_K	Llama.Internal.Types.Params
GGML_TYPE_Q4_0	Llama.Internal.Types.Params
GGML_TYPE_Q4_1	Llama.Internal.Types.Params
GGML_TYPE_Q4_K	Llama.Internal.Types.Params
GGML_TYPE_Q5_0	Llama.Internal.Types.Params
GGML_TYPE_Q5_1	Llama.Internal.Types.Params
GGML_TYPE_Q5_K	Llama.Internal.Types.Params
GGML_TYPE_Q6_K	Llama.Internal.Types.Params
GGML_TYPE_Q8_0	Llama.Internal.Types.Params
GGML_TYPE_Q8_1	Llama.Internal.Types.Params
GGML_TYPE_Q8_K	Llama.Internal.Types.Params
GGML_TYPE_TQ1_0	Llama.Internal.Types.Params
GGML_TYPE_TQ2_0	Llama.Internal.Types.Params