llama-cpp-b9888-bin-ubuntu-arm64

llama.cpp b9888 版本的 Ubuntu ARM64 预编译二进制文件。

安装

npm install llama-cpp-b9888-bin-ubuntu-arm64

使用

const { archivePath } = require('llama-cpp-b9888-bin-ubuntu-arm64');
// archivePath => tar.gz 文件的绝对路径

// 解压示例
const { execSync } = require('child_process');
execSync(`tar -xzf "${archivePath}" -C /your/target/dir`);

包含内容

• llama-server — llama.cpp HTTP 推理服务
• llama-quantize — 模型量化工具
• llama-bench — 性能基准测试
• llama-imatrix — 重要性矩阵计算
• 以及其他 CLI 工具和共享库（.so）

版本

对应 llama.cpp build b9888。

License

MIT