唉~就是一直还无法参透 Ollama 的 Vulkan 支持。
分类: LLaMA
LLaMa——开源高效的大语言模型
解决 LLaMA.cpp 使用 MCP 代理时出现“SSL server verification failed”错误的办法
受限于 MCP Server 地址跨域的问题一时半会无法解决的影响,遂想到使用 LLaMA.cpp 所提供自带的代理功能来解决跨域的问题。
继续阅读解决 LLaMA.cpp 使用 MCP 代理时出现“SSL server verification failed”错误的办法
解决 LLaMA.cpp 出现 “CPU backend is not loaded” 的错误的办法
刚刚在一台新的云手机的 Debian 容器里运行 llama.cpp 时再次出现error: CPU backend is not loaded的错误问题,这不可能每次都靠着再次安装 Ollama 的方式解决吧?
通过 Vulkan® 加快 LLaMA.cpp 的推理速度
无意间发现其有一块 AMD Radeon PRO W6800 专业显卡,就想着是不是能利用一下的说!
在 Android 上安装 Termux 并通过 Debian 13(Trixie)使用 LLaMA.cpp
在前篇文章时发现,不知道怎么滴这次的 llama.cpp 竟然能跑起来了!