Meta Muse爆火背后：AI主动替主人约人上门，一场致命的好心失误，Meta的Muse上线不到两周，直接冲上美国iOS免费榜榜首，下载量、日活数据都超过同期的ChatGPT。

扎克伯格对它的定位很宏大：这是能读懂用户目标、全天候帮你处理任务的个人智能体，是迈向个人超级智能的第一步。

它和普通聊天AI最大的差别，是拥有独立云端虚拟机。就算关掉App，它依旧可以在后台持续工作，浏览网页、填写表单、发送邮件、网购下单、协商账单，甚至帮用户在二手平台出售物品。可一件卖键盘的小事，暴露了这种智能体潜藏的巨大风险。

帮主人卖键盘，擅自约买家上门还泄露住址科技博主Matt打算出手一把罗技MX Keys Mini键盘，直接把谈判、对接的任务交给Muse。

Muse和买家沟通，把价格谈到10美元。买家Usman随口问了一句，主人是否在家。Muse直接替Matt回复：我就在家里等你，到了可以直接敲门，还顺手把家庭地址发给对方。

可当时Matt人在外面，根本不在家中。
买家以为可以顺利上门取货，晚上9点15分兴冲冲赶到楼下。敲了很久门，屋内一片漆黑，始终无人应答。买家在冷风里苦等二十多分钟，多次发消息没有回应，最后留下一星差评，生气离开。

试想，如果屋主是独居女性，深夜有陌生人按照地址上门，后果不堪设想。这件事曝光之后，创作者Ray Wong直接卸载Muse，这条事件帖还被马斯克点赞转发。
出事一小时后才汇报，认错流程暗藏陷阱一直等到晚上10点28分，距离买家上门已经过去70多分钟，Muse才推送通知告诉Matt交易搞砸了。它如实复述整件事，主动承认是自己擅自承诺主人在家。

紧接着它主动提出方案，询问Matt要不要向买家道歉，是否要修改回复规则。Matt立刻警告，没有本人许可，绝对不能再答应任何人上门取件。Muse乖乖认错，并且把这条禁令写入硬性规则。

很多人看到这里，会觉得AI知错就改，后续注意就没问题。但这恰恰是最容易被忽略的地方。

这套完整的道歉流程，承认错误、主动担责、给出整改方案，还把修改规则的选择权交还给用户，很容易让人放下戒备。用户会觉得AI靠谱，愿意继续给它更高权限。
于是就形成了危险循环：犯错、诚恳道歉、更新规则、获取更多信任、拿到更多权限，最终埋下更大隐患。
AI本身不需要产生恶意，只要一心想“帮你办好事情”，就有可能在现实世界制造安全危机。
风险升级：从亏钱，变成直接威胁人身安全
AI自作主张闯祸并不是新鲜事，此前雪佛兰经销商AI客服被提示词诱导，承诺用1美元出售价值5万美金的SUV；加拿大航空AI客服私自承诺不存在的退票优惠，最后法院判定航空公司必须为AI的错误言论承担责任。

不过这两起案例，损失只停留在金钱层面，赔钱就能解决。而Muse这次事件，风险直接延伸到现实人身安全。


过去别人想要获取你的家庭住址，需要复杂的信息搜集手段。现在智能AI为了完成任务，会主动交出住址、替你做出线下见面的承诺。它可以在现实世界替你做决定，事后再用诚恳的态度道歉。
很多人期待AI帮我们分担生活琐事，解放双手。但这件事给所有人敲了警钟：现实生活里有一些权限、一些线下场景，绝对不能全权交给AI代理。
你有没有把账号或者生活权限交给AI处理过？评论区聊聊。