介绍 Unsloth for AMD 🚀您现在可以在 AMD 硬件上训练和运行 LLM
• 我们与 AMD 合作,让您能够在 AMD GPU 上训练和运行 500 多个模型• 支持 Windows、WSL、Linux• 在 3GB VRAM 上训练 Qwen、Gemma
GitHub: 网页链接
支持 Radeon、Instinct、Ryzen 和数据中心 GPU,通过我们定制的 Triton 内核和数学算法,实现高达 2 倍的速度提升、70% 更少的 VRAM 使用量,且无精度损失。我们还支持针对 GGUF 和 Safetensors 推理的优化 ROCm 构建。
Unsloth 是一个开源的本地 UI,用于更快的 LLM 训练和推理,具备工具调用修复、代码执行、安全网页搜索、远程 API 以及 HTTPS 部署功能。将本地模型连接到 Claude Code、Codex 代理,并运行最新的 Kimi、GLM、DeepSeek、Qwen3.6 和 Gemma 4 模型。
