解决 LLaMA.cpp 出现 “CPU backend is not loaded” 的错误的办法

刚刚在一台新的云手机的 Debian 容器里运行 llama.cpp 时再次出现error: CPU backend is not loaded的错误问题，这不可能每次都靠着再次安装 Ollama 的方式解决吧？

解决方法

好在解决办法貌似也较为简单，只需安装相关依赖即可。

  • 安装：apt-get install libgomp1
  • （暂定依赖）：apt install libopenblas-dev

参考

  • Eval bug: make_cpu_buft_list: no CPU backend found …. failed to load model #14691https://github.com/ggml-org/llama.cpp/issues/14691

发布者

ChiuYut

咦？我是谁？这是什么地方？ Ya ha！我是ChiuYut！这里是我的小破站！