标签 LLM 下的文章

Library AdalFlow 构建并自动优化 LLM 应用的库
项目
一、项目介绍 做网站开发，选型本身就很费时间：前端框架、构建工具、组件库、渲染方式，每一项都有一堆候选项，而真正动手写业务之前，往往先要在脚手架和配置里耗掉大半精力。尤其是一个人既要写前端又要管后端时，这种「开工前的准备」很容易被低估。 AdalFlow 把这部分成本压了下来。AdalFlow 是一个 library，定位是「AdalFlow: The library to build & auto-optimize LLM applications.」。它要么帮你更快搭起项...
Framework LlamaIndex 面向RAG的文档处理与检索框架
项目
一、项目介绍 做 RAG（检索增强生成），最累的是“把文档变成可问的知识”：切分、建索引、接 embedding、写检索，每一步都要自己串。你想“丢一堆文件进去就能问答”，却被数据管道卡住。 LlamaIndex 是面向 RAG 的文档处理平台：从加载、切分、索引到查询，一套核心 API 打通；按需装集成包接不同 LLM 与向量库。SimpleDirectoryReader 读目录、VectorStoreIndex 建索引、as_query_engine 直接问，把“文档进、...
App Cherry-Studio 聚合多家大模型的AI桌面客户端
项目
一、项目介绍 用大模型，最烦的是“来回切换客户端”：这个模型在 A 站、那个在 B 站，知识库在一个工具、智能体在另一个。你想在一个地方同时用上 OpenAI、通义、Claude、本地 Ollama，却被入口割裂。 Cherry Studio 是一个开源 AI 生产力客户端：智能聊天、自主智能体、300+ 助手一体，统一接入各家前沿大模型（含本地 Ollama）。桌面端跨平台，知识库、绘画、翻译、多模型对比都收进同一个界面，把“用 AI”从到处登录变成一处搞定。
App anything-llm 本地优先的一体化AI应用
项目
一、项目介绍 把“我的文档”接给大模型，常见做法是东拼西凑：一个库做向量、一个前端做聊天、再来个脚本管权限。你想要一个“全家桶”：能聊文档、能用 Agent、能多用户、还能本地优先跑，别一上来就被复杂部署劝退。 AnythingLLM 是一个本地优先的一体化 AI 应用：和你的文档对话、使用 AI Agent、高度可配置、多用户且开箱即用。它把向量库、聊天、RAG、Agent 收进同一个产品，docker 一跑就是完整服务。对个人和中小团队，“拥有自己的智能”这件事被它做得足...
Framework llamafactory 统一高效微调百种大模型
项目
一、项目介绍 微调大模型，第二个坑是“每个模型一套流程”：LLaMA 一种脚本、Qwen 另一种、ChatGLM 又一种，换模型就要重学一遍。你要的是“一套框架，统一微调上百种 LLM/VLM”，最好还有可视化界面，点点就能训。 LLaMA-Factory 是一个统一高效的大模型微调框架（ACL 2024），覆盖 100+ LLM 与 VLM，支持 LoRA、QL-LoRA、全参等训练方式，提供 Web UI 与 CLI。它把数据、模型、训练策略收敛成统一入口，研究者与工程师...
Python unsloth 本地训练大模型的Python工具
项目
一、项目介绍 微调大模型，门槛常是“显存”和“环境”：官方脚本依赖一堆版本挑剔的包，一张卡训不动就劝退；想在自己机器上跑训练，先被环境折腾半天。你要的是“装得上、跑得动、显存还省”的微调工具。 Unsloth 是一个本地运行与训练大模型的 Python 工具，通过对注意力等核心算子的手写优化，把显存占用和训练时长大幅压低，支持 GGUF、MLX、Qwen、DeepSeek、Gemma、FLUX 等大量模型。它提供安装脚本与桌面/CLI 入口，也能直接作为 Claude 等智能...
App open-webui 自托管友好型AI聊天界面
项目
一、项目介绍 用大模型，要么被各家网页版绑死（数据出不出得来、模型换不换得了都不由你），要么自己拼前端 + 接口 + 鉴权，费半天劲。你想要一个“自己的 ChatGPT 界面”：能接 Ollama、OpenAI、各种兼容端点，数据留在本机，还能管多用户、RAG、智能体。 Open WebUI 是一个对用户友好的自托管 AI 界面，支持 Ollama、OpenAI API 等后端，自带 RAG、多模型对话、智能体、函数调用与多用户权限。一条 docker run 起服务，浏览器...
Java langchain4j 在JVM上构建LLM应用的地道Java开源库
项目
Java 企业里想接大模型，常常面临“没有地道（idiomatic）的 SDK”的尴尬：要么用通用 HTTP 调，要么借用 Python 生态绕一圈。LangChain4j 就是为 JVM 世界补齐这块短板——它把 LangChain 的理念用 Java 的方式重写，让企业框架（Spring Boot、Quarkus）能无缝接入 LLM、向量库与工具调用（含 MCP）。
Python Streamer-Sales 基于大模型的AI卖货主播生成工具
项目
Python Streamer-Sales 基于大模型的AI卖货主播生成工具 直播电商的脚本撰写，大概是每个运营团队都绕不开的体力活。一件新品上架，要写卖点、要憋单、要互动话术，还得根据不同的商品类目调整语气风格。更麻烦的是，当商品库有几百个 SKU 时，人工写脚本的速度根本追不上上播的节奏。Streamer-Sales 这个项目试图解决的就是这个问题：给定商品信息，让大模型自动生成一套有“带货感”的解说词，并且把语音合成、数字人视频、实时信息查询这些环节串成一条可运行的流水...