llama.cpp

安装命令 
brew install llama.cpp

LLM 在 C/C++ 中的推理

https://github.com/ggerganov/llama.cpp

许可协议： MIT

公式 JSON API： /api/formula/llama.cpp.json

公式代码： llama.cpp.rb 在 GitHub 上

提供瓶装（二进制软件包）安装支持

Apple Silicon sonoma ✅
ventura ✅
monterey ✅
Intel sonoma ✅
ventura ✅
monterey ✅
64位 Linux ✅

当前版本

稳定版 ✅ 3497
head ⚡️ HEAD

从源代码构建时依赖项

cmake 3.30.2 跨平台构建

分析

安装（30天）
llama.cpp 2,618
llama.cpp --HEAD 14
请求安装（30天）
llama.cpp 2,618
llama.cpp --HEAD 14
构建错误（30天）
llama.cpp 10
安装（90天）
llama.cpp 6,807
llama.cpp --HEAD 26
请求安装（90天）
llama.cpp 6,801
llama.cpp --HEAD 26
安装（365天）
llama.cpp 6,818
llama.cpp --HEAD 26
请求安装（365天）
llama.cpp 6,812
llama.cpp --HEAD 26
Fork me on GitHub