如何在本地运行 Ripple-65B(Ollama 和原版 llama.cpp 都加载不了它)
现在你已经能在本地跑 Ripple-65B Preview,但没有一条路是开箱即用的。通过社区提供的一套服务端工具包,DGX Spark 在代码任务上大约能跑到 26 tok/s;GGUF 文件需要打过补丁的 llama.cpp,因为 Ollama 和原版构建目前还加载不了;MLX 版本则要加上 --trust-remote-code 。 大家盯上它是有原因的:Ricursive 这个 Apache 2.0 模型号称在 Terminal-Bench 2.1 上拿到 80.52 分,比 501B 的 Reflection Beam 高 0.42 分。代价在于 Ripple 是稠密模型(dense
- 如何在本地运行 Ripple-65B(Ollama 和原版 llama.cpp 都加载不了它) · Dev.to ML