[未解决]Ollama 使用 Vulkan 加速推理

唉~就是一直还无法参透 Ollama 的 Vulkan 支持。

看着好像很简单的一件事，不知道为什么就是无法解决，明明他的底层 LLaMA.cpp 都能使用 Vulkan0 + CPU 共同推理的说！

为防止是 Ollama 的 vulkan 扩展支持没有的原因，还特意将 Termux 上的 deb 包下载下来使用。

但是在直接使用dpkg -i安装的过程中却遇到了一个“奇怪”的问题，报错如下：

root@localhost:~# dpkg -i ollama.deb 
dpkg: error processing archive ollama.deb (--install):
 package architecture (aarch64) does not match system (arm64) 
Errors were encountered while processing:
 ollama.deb

这aarch64与arm64按理来说应该算是一个架构的吧？不知道怎么滴在这里就提示“软件包架构（aarch64）与系统（arm64）不匹配”的错误。

没办法，只能将 deb 包解包后尝试下了……

• 下载 deb 包：

  apt download ollama
  apt download ollama-backend-vulkan
  

• 拷贝如 proot-distro 容器：

  proot-distro copy ollama_0.30.6_aarch64.deb debian:/root
  proot-distro copy ollama-backend-vulkan_0.30.6_aarch64.deb debian:/root
  

• 将 deb 解压：

  dpkg-deb -R ollama_0.30.6_aarch64.deb ollama
  dpkg-deb -R ollama-backend-vulkan_0.30.6_aarch64.deb ollama-backend-vulkan
  

• 移动到对应位置：

  cd ollama/data/data/com.termux/files/usr
  mv bin/ollama /usr/bin/ollama
  mv lib/ollama /usr/lib/ollama
  mv share /usr/share
  
  cd ollama-backend-vulkan/data/data/com.termux/files/usr/lib
  mv ollama /usr/lib/ollama
  
  

虽然将 vulkan 移动到对应位置，但在启动时依旧还是未能使用到 vulkan 来加速推理。哪怕是设置OLLAMA_VULKAN=true还是无法使用Vulkan加速……

ChiuYut

2026年06月15日