llama-cpp-hs
Safe HaskellNone
LanguageHaskell2010

Llama.Internal.Foreign.Performance

Synopsis

Documentation

c_llama_perf_context :: CLlamaContext -> Ptr LlamaPerfContextData -> IO () Source #

LLAMA_API struct llama_perf_context_data llama_perf_context(const struct llama_context * ctx);

c_llama_perf_context_print :: CLlamaContext -> IO () Source #

LLAMA_API void llama_perf_context_print(const struct llama_context * ctx);

c_llama_perf_context_reset :: CLlamaContext -> IO () Source #

LLAMA_API void llama_perf_context_reset(struct llama_context * ctx);

c_llama_perf_sampler :: Ptr LlamaSampler -> Ptr LlamaPerfSamplerData -> IO () Source #

LLAMA_API struct llama_perf_sampler_data llama_perf_sampler(const struct llama_sampler * chain);

c_llama_perf_sampler_print :: Ptr LlamaSampler -> IO () Source #

LLAMA_API void llama_perf_sampler_print(const struct llama_sampler * chain);

c_llama_perf_sampler_reset :: Ptr LlamaSampler -> IO () Source #

LLAMA_API void llama_perf_sampler_reset(struct llama_sampler * chain);