标签 TextGen 下的文章

一句话定位：本地跑大模型的桌面工作台，也能当 OpenAI 兼容服务用。 如果你搜到的是 text-generation-webui，那就是它——项目已经改名为 TextGen，仓库地址变成 oobabooga/textgen，定位也从“网页 UI”变成了“桌面应用 + API”。它是本地推理生态里插件最丰富的一个前端：同一套界面里可以切 llama.cpp、ExLlamaV3、Transformers、TensorRT-LLM 四种加载器，能看图、能读 PDF、能练 LoR...