苹果：大型人工智能周，Mac+Muse人工智能超级计算机！
上周可以说是苹果公司的大型人工智能周，苹果展示了它对Mac电脑上的人工智能有多么重视，该公司采取了更多措施，以最具成本效益、最负责任的方式提供技术。苹果和Meta将Muse Spark Open引入Mac Studio，MLX得到升级等等。
虽然也是iPhone Duo的预购日，但这可以说不是什么大新闻。这不是什么大新闻，因为苹果本周在人工智能方面迈出了巨大的一步。苹果的研究人员不仅想出了一个漂亮的工具，可以将Mac变成分布式推理数据中心，而且该公司现在不仅有在中国部署苹果智能的计划，还与Meta合作，使Muse Spark Open的本地实例能够在几个Mac工作室上运行。其机器学习团队还推出了新版本的MLX，使人工智能研究人员和开发人员能够在Mac Studio上使用苹果芯片在本地运行大型语言模型（LLM）。
苹果的MLX有什么新功能？MLX利用了苹果统一内存架构，如果你想建立新的推理和微调方法，这是非常宝贵的。在过去的一年里，机器学习团队进行了“几项关键创新”，使其更容易、更高效地“在最近的苹果芯片上本地运行最先进的LLM”。这些改进包括：M5系列芯片GPU中的神经加速器的软件支持使用Thunderbolt上的远程直接内存访问（RDMA）在多台Mac上进行低延迟通信最近流行的架构的高效实现，如专家混合（MoE）。该版本非常倾向于苹果团队在Muse上所做的工作，并再次展示了苹果芯片的架构是如何支持人工智能推理的。