唉~就是一直还无法参透 Ollama 的 Vulkan 支持。
作者: ChiuYut
咦?我是谁?这是什么地方?
Ya ha!我是ChiuYut!这里是我的小破站!
解决 LLaMA.cpp 使用 MCP 代理时出现“SSL server verification failed”错误的办法
受限于 MCP Server 地址跨域的问题一时半会无法解决的影响,遂想到使用 LLaMA.cpp 所提供自带的代理功能来解决跨域的问题。
继续阅读解决 LLaMA.cpp 使用 MCP 代理时出现“SSL server verification failed”错误的办法
使用 PM2 对 Node.JS 程序进行进程管理
PM2 是一个守护进程管理器,用于 Node.JS 的高级生产进程管理器!
解决 LLaMA.cpp 出现 “CPU backend is not loaded” 的错误的办法
刚刚在一台新的云手机的 Debian 容器里运行 llama.cpp 时再次出现error: CPU backend is not loaded的错误问题,这不可能每次都靠着再次安装 Ollama 的方式解决吧?
通过 Vulkan® 加快 LLaMA.cpp 的推理速度
无意间发现其有一块 AMD Radeon PRO W6800 专业显卡,就想着是不是能利用一下的说!