标签 LocalAI 下的文章

LocalAI 是一个免费、MIT 许可的自托管推理服务器，提供 OpenAI 兼容 API，在自有硬件上跑文本、图像、语音与智能体。 想用 OpenAI 的 API 但不想把数据送进云端？LocalAI 给出答案：一个 OpenAI 兼容的本地推理服务器，把 llama.cpp、vLLM、whisper.cpp、diffusers 等引擎作为可插拔后端，单一实例覆盖文本生成、图像生成、语音转写、文字转语音和向量嵌入。它不需要昂贵 GPU，消费级 CPU 也能跑，数据始终留在...