模型在你机器上跑
端侧 GGUF 量化模型,纯 CPU 也能推理。没有密钥、没有账号、没有额度,断网照样能对话。模型商店会按你设备的实际内存,推荐跑得动的量化规格。
它不是又一个聊天窗口。
是一台你自己的 Linux 电脑,只是刚好会说话。
大多数 AI 工具把你的问题送到别人的服务器上,再把答案送回来。中间发生了什么、数据被留在哪儿,你既看不见也管不着。
檀阁瑞木换了个做法:把模型放到你的设备上跑。端侧 GGUF 纯 CPU 就能推理,聊天内容、记忆、文件、工作痕迹都写在本机磁盘。需要联网的只有三件事——收发消息、检查更新、下载新模型。
它也不满足于"给建议"。内置的真实 Linux 沙箱让模型能自己装依赖、跑脚本、读文件、看输出,再把结果放回对话里。跑失败了会如实告诉你,不会编一段看起来像成功的话。
— 开发笔记,最近一次构建
端侧 GGUF 量化模型,纯 CPU 也能推理。没有密钥、没有账号、没有额度,断网照样能对话。模型商店会按你设备的实际内存,推荐跑得动的量化规格。
模型可以直接在沙箱里执行命令、安装依赖、编译脚本、读写文件,输出和退出码如实回显。SSH 远端、Debian 用户态、系统 shell 按环境分流,不是模拟出来的命令行。
完整的多轮上下文加上跨会话的持久记忆。聊过的项目、定过的口径、你的偏好会留在本机,下次打开接着用,不用从头再讲一遍。
Windows、macOS、Linux、Android、iOS 五个平台,同一套数据与能力。QQ、微信等通道也能接进来,从哪个入口找到它都行。技能、插件、MCP 工具共用一个注册中心。
下面的链接永远指向最新一次构建,点开就是最新版,不用挑版本号。App 内会自动检查并覆盖更新,原有数据保留。
正在读取最近一次构建信息…
Windows 双击即运行;macOS 首次打开请右键选择「打开」;iOS 包未签名,需 AltStore 或自签工具安装。安装包完整性由 App 内自动校验。
已修复已知问题
推理、语音和存储都在本机完成,断网也能对话。需要联网的只有三件事:IM 通道收发消息、检查更新、从模型商店下载 GGUF 模型。
端侧 GGUF 量化模型纯 CPU 即可运行。模型商店会读取设备实际内存,推荐能跑得动的量化规格;内存较小的设备建议选小参数模型。
App 内会自动检查更新,下载完成后调起安装覆盖,聊天记录、记忆和作品都保留。官网下载链接同样始终指向最新构建。
全部在本机磁盘。对话、长期记忆、工作痕迹和模型文件都不上传,卸载应用即可一并清除。
软件为闭源,应用源代码不对外发布。
遇到问题、想提建议,或者只是想看看别人怎么用它,欢迎扫码加入 QQ 交流群。