nanobot 是一个超轻量级、开源、自托管的 Python AI Agent 框架,内置 WebUI、工具链、长期记忆、MCP 集成、多智能体委托、定时自动化,以及 OpenAI 兼容 API。
分类: Ubuntu
作为Linux发行版中的后起之秀,Ubuntu在短短几年时间里便迅速成长为从Linux初学者到实验室用计算机/服务器都适合使用的发行版。
[未解决]Ollama 使用 Vulkan 加速推理
唉~就是一直还无法参透 Ollama 的 Vulkan 支持。
在 Android 上安装 Termux 并通过 Debian 13(Trixie)使用 LLaMA.cpp
在前篇文章时发现,不知道怎么滴这次的 llama.cpp 竟然能跑起来了!
在 Android 上安装 Termux 并通过 Debian 13(Trixie)使用 Ollama
之前就有了解到 Termux 这一无需Root或设置即可使用的适用于 Android 的终端模拟器,接着在后面这几天又接触了解到本地大语言模型运行框架,先计划着是在手机安装体验的,但受限于安装 Debian 这步就先转而在 Linux 上使用 Llama.cpp 了。
在 VPS 上使用 LLaMA.cpp 搭建本地运行大语言模型环境
一开始选型的是 Ollama 这个工具套件的,而且也是想着在手机上部署来使用,可惜的就是没有折腾成功的说。