由于受跨域问题的影响,LLaMA.cpp有提供自带的代理功能来解决跨域的方式,但是却在使用 HTTPS 地址的 MCP 服务器时就遇到一些问题!
使用 PM2 对 Node.JS 程序进行进程守护的方式运行
PM2 是一个守护进程管理器,用于 Node.JS 的高级生产进程管理器!
解决 LLaMA.cpp 出现 “CPU backend is not loaded” 的错误的办法
刚刚在一台新的云手机的 Debian 容器里运行 llama.cpp 时再次出现error: CPU backend is not loaded的错误问题,这不可能每次都靠着再次安装 Ollama 的方式解决吧?
通过 Vulkan® 加快 LLaMA.cpp 的推理速度
无意间发现其有一块 AMD Radeon PRO W6800 专业显卡,就想着是不是能利用一下的说!
在 Android 上安装 Termux 并通过 Debian 13(Trixie)使用 LLaMA.cpp
在前篇文章时发现,不知道怎么滴这次的 llama.cpp 竟然能跑起来了!