unsloth - 本地大模型训练与运行工具，用于在个人电脑上微调和部署开源模型你是否曾经想过在自己的电脑上微调一个像DeepSeek或Qwen这样的开源大模型，却被复杂的部署流程和昂贵的硬件需求劝退？unsloth就是为了解决这个痛点而生的。它提供了一个简单直观的Web界面，让你无需编写代码、无需配置复杂的训练环境，就能在自己的电脑上轻松训练和运行主流开源模型。无论是想在个人项目中使用定制...

ColossalAI - 大规模AI模型训练与部署框架，用于在有限算力下高效开发大模型大语言模型的浪潮席卷全球，但高昂的训练成本和复杂的分布式技术让大多数开发者和中小企业望而却步。你是否想过，用一块消费级显卡也能训练出百亿参数的模型？用几行代码就能实现分布式训练？ColossalAI正是为此而生。这个由加州大学伯克利分校团队打造的开源项目，以“让大模型更便宜、更快、更易用”为使命，通过创新的...

DeepSpeed - 深度学习优化库，用于高效训练和部署千亿参数大模型训练一个大语言模型需要多少块GPU？如果你问OpenAI训练GPT-4时用了多少块，答案可能是数以万计。但对于大多数开发者来说，我们并没有这样的资源。那么，有没有一种技术可以让普通规模的GPU集群也能训练出超大模型？答案就在DeepSpeed中。这是微软开源的一个深度学习优化库，它通过创新的内存优化和分布式训练技术，让单...