标签 FineTuning 下的文章

一、项目介绍 微调大模型，第二个坑是“每个模型一套流程”：LLaMA 一种脚本、Qwen 另一种、ChatGLM 又一种，换模型就要重学一遍。你要的是“一套框架，统一微调上百种 LLM/VLM”，最好还有可视化界面，点点就能训。 LLaMA-Factory 是一个统一高效的大模型微调框架（ACL 2024），覆盖 100+ LLM 与 VLM，支持 LoRA、QL-LoRA、全参等训练方式，提供 Web UI 与 CLI。它把数据、模型、训练策略收敛成统一入口，研究者与工程师...

一、项目介绍 微调大模型，门槛常是“显存”和“环境”：官方脚本依赖一堆版本挑剔的包，一张卡训不动就劝退；想在自己机器上跑训练，先被环境折腾半天。你要的是“装得上、跑得动、显存还省”的微调工具。 Unsloth 是一个本地运行与训练大模型的 Python 工具，通过对注意力等核心算子的手写优化，把显存占用和训练时长大幅压低，支持 GGUF、MLX、Qwen、DeepSeek、Gemma、FLUX 等大量模型。它提供安装脚本与桌面/CLI 入口，也能直接作为 Claude 等智能...