一张显卡就能跑的 30B 模型，Meta 发了技术报告。

先说清楚：模型 8 月 10 日就开源了，协议 Apache 2.0，这次新的是技术报告。

📌 基本情况
• 约 29.6B 参数，其中视觉编码器约 1.8B
• 输入文字和图片，输出文字，上下文 131K 以上
• 训练数据覆盖 100 多种语言，用 Muse Spark 蒸馏
• 不支持音频，不面向 18 岁以下用户

📌 本地能不能跑
• 量化到约 4 比特后，语言模型不到 20 GB，24 GB 或 32 GB 显存能跑
• K-Quant-17GB 版本平均掉点 1.0%
• 自带 DFlash 推测解码：RTX 5090 上每秒 233.4 token，不开是 74.9（3.1 倍）；M5 Max 50.2（1.8 倍）；M4 Max 37.8（1.5 倍）

📌 分数（Meta 自测，高推理档）
• 领先的：MCP Atlas 75.5（Gemma4-31B 54.2、Qwen3.6-27B 62.5）；SWE-Bench Pro 51.2（Gemma 36.9、Qwen 50.2）
• 落后的：SWE-Bench Verified 76.0 比 Qwen 的 77.2，OSWorld-Verified 65.9 比 75.6，TerminalBench 2.1 51.7 比 60.7

⚠️ 有赢有输，不是全面领先，分数也是 Meta 自己测的。官方说的是单张消费级显卡或 Mac 能跑，没说手机。

我的看法：想在自己电脑上跑 agent 的人，这个尺寸挺友好。

你会在本地跑这种 30B 的模型吗？

#AI资讯 #Meta #开源模型 #本地部署 #大模型 #AIagent #ai #人工智能 #AI工具 #AI学习