标签 离线AI 下的文章

下载即用的本地 ChatGPT 替代,跑在自己电脑上,还顺带开一个 OpenAI 兼容接口。 本地跑模型的工具已经不少:Ollama 偏命令行与服务端,LM Studio 打磨精细但不开源。Jan 的位置在两者之间:一个完全开源的桌面应用,内置 llama.cpp 引擎,从 Hugging Face 拉模型、开箱对话,同时在本机 127.0.0.1:1337 暴露一个 OpenAI 兼容 API。这意味着它不只是个聊天窗口,而是把整台电脑变成一个私有模型网关:白天用界面聊,晚...