在前篇文章时发现,不知道怎么滴这次的 llama.cpp 竟然能跑起来了!
直接在 Termux 里安装 LLaMA.cpp 以使用本地运行的大语言模型环境
在安装 Ollama 后突发奇想,既然在线源有 Ollama 可选,会不会也能通过在线源安装 LLaMA.cpp 呢?
直接在 Termux 里安装 Ollama 以使用本地运行的大语言模型环境
辛辛苦苦等地安装好 Proot-Distro 的容器,回过头来才发现其实可以更简单点安装 Ollama 的!
在 Android 上安装 Termux 并通过 Debian 13(Trixie)使用 Ollama
之前就有了解到 Termux 这一无需Root或设置即可使用的适用于 Android 的终端模拟器,接着在后面这几天又接触了解到本地大语言模型运行框架,先计划着是在手机安装体验的,但受限于安装 Debian 这步就先转而在 Linux 上使用 Llama.cpp 了。
在 VPS 上使用 LLaMA.cpp 搭建本地运行大语言模型环境
一开始选型的是 Ollama 这个工具套件的,而且也是想着在手机上部署来使用,可惜的就是没有折腾成功的说。