【iPhone也能给Mac当显卡?开源项目 Backburner 掀起端侧算力协同新热潮!📱💻】
苹果设备的端侧AI生态又被极客们玩出了新花样!开源项目 **Backburner**(GitHub: StayLameBro/backburner)正式亮相,主打通过一条 10 Gb/s 的 USB-C 数据线,让 iPhone 成为 Mac 本地运行 27B(270亿参数)大语言模型(如 Qwen3.8-27B)的“算力加码器”。
**🔥 核心亮点速览:**1️⃣ **提示词读取提速(Split Prefill)**:Mac 负责模型前半部分(1-40层),iPhone 负责后半部分(41-64层)。在 16k–48k 上下文的复杂 Agent 场景下,读取速度提升 29%~44%,大幅减少等待时长!2️⃣ **突破 Mac 内存极限**:当上下文超过 64k 时,iPhone 变身“KV Cache 扩展坞”,利用手机的 GPU 与 NPU(Neural Engine)承载超长上下文计算,轻松突破 128k 甚至 140k 上下文,回答准确率零损耗。3️⃣ **软硬深度结合**:基于 llama.cpp 分支定制,融合了 Mac CPU 的 SME2 指令集、Metal 融合算子与 DFlash2 投机采样技术,不仅多设备协同给力,单 Mac 性能也得到了大幅优化。
💡 **适用场景与门槛**:支持 Apple Silicon Mac(如 M4 Pro)搭配 iPhone 15 Pro 或更新机型(需使用高规格数据线)。只需一条简单的安装脚本,就能体验跨设备的极致本地 LLM 推理!
开源端侧算力互联的未来已来,你的旧手机/备用机是不是也有了新用途?快去 GitHub 体验一下吧!网页链接
AI 开源项目 MacBook iPhone 大语言模型 端侧算力 llama.cpp