llama.cpp
#Fleeting_Notes
llama.cpp(llama.cpp)
C++
で書かれているため、GPUの最適化やCPUの最適化がかけやすくなっている
GitHub:
ggerganov/llama.cpp: LLM inference in C/C++
LLM
ローカルLLM
SYCL
LLaMA
GGML
GGUF
確認用
Q. llama.cpp
関連
Vulkan
Hugging Face
メモ
結局 llama.cpp とは何者なのか？｜kawamou
【2302.13971】 LLaMA: Open and Efficient Foundation Language Models
調査用
Google.icon
llama.cpp(日)
Google.icon
Llama.cpp(英)
Wikipedia.icon
llama.cpp - Wikipedia(日)
llama.cpp(検索) - Wikipedia(日)
Wikipedia.icon
Llama.cpp - Wikipedia(英)
Llama.cpp(検索) - Wikipedia(英)