之前就有了解到 Termux 这一无需Root或设置即可使用的适用于 Android 的终端模拟器,接着在后面这几天又接触了解到本地大语言模型运行框架,先计划着是在手机安装体验的,但受限于安装 Debian 这步就先转而在 Linux 上使用 Llama.cpp 了。
分类: LLaMA
LLaMa——开源高效的大语言模型
在 VPS 上使用 LLaMA.cpp 搭建本地运行大语言模型环境
一开始选型的是 Ollama 这个工具套件的,而且也是想着在手机上部署来使用,可惜的就是没有折腾成功的说。