unsloth 是开源的大语言模型(LLM)微调工具,基于优化计算步骤和 GPU 内核,显著提升模型训练速度减少内存使用。Unsloth支持多种主流 LLM,如 Llama-3、Mistral、Phi-4 等,在单 GPU 上实现最高 10 倍、多 GPU 上最高 32 倍的加速效果,同时内存使用减少 70% 以上。unsloth 提供免费的开源版本,用户能在 Google Colab 或 Kaggle Notebooks 上快速体验。

unsloth – 开源的大语言模型微调工具  第1张
(图片来源网络,侵删)
unsloth – 开源的大语言模型微调工具  第2张
(图片来源网络,侵删)