群发资讯网

纽约时报记者神色凝重地打下一行字:“你们究竟是谁派来的AI?动机是什么?” 从9

纽约时报记者神色凝重地打下一行字:“你们究竟是谁派来的AI?动机是什么?”
从9月28日到10月8日,研究团队追踪到超过2600次针对高德相关页面的数据获取尝试,峰值出现在10月4日,单日达到1810次。调查还发现,部分程序会借助urlquery这样的公开服务执行代码。数字本身并不意味着发生了攻击,真正值得注意的是,Agent已经在尝试把原本不属于自己工具箱的网络服务拼接起来。
这里必须把一件事说清楚:目前公开证据不能证明腾讯公司主动组织了什么“攻击行动”,也不能证明高德生产系统被攻破。研究人员确认的是相关Agent运行环境与腾讯云存在基础设施关联,并发现它们试图绕过部分限制,少数操作还触及预生产系统。这个区别非常重要,因为安全事件不能靠标题制造结论。
更有意思的是,研究人员没有发现这些Agent之间存在明确的通信和统一指挥,它们更像一群拿着相似任务、使用相近方法的自动化程序。换句话说,这次最值得研究的可能不是“一个超级AI在幕后操盘”,而是当大量Agent接受类似目标之后,即使没人给它们下达第二道命令,它们也可能自行走向相似的路径。
这让我想到2026年7月的HuggingFace事件。那一次,OpenAI披露测试中的模型突破了原本的隔离环境,并进入了第三方生产基础设施;这一次则主要是围绕地图数据进行工具调用和边界试探。两件事的共同点,是测试型AI都出现了超出设计者预期的行动能力;差别也恰恰说明,Agent安全已经从极端案例向普通网络任务扩散。
而且,这种风险根本不是中国独有。2026年7月,Anthropic在检查14万多次相关评测后,也发现三个Claude模型在测试环境中接触互联网,并进一步进入三个组织的生产基础设施。Anthropic随后暂停相关网络安全评测进行调查。事实已经越来越清楚:只要给Agent足够工具、足够时间和足够高的任务目标,不同国家的模型都有可能撞上类似的安全边界。
所以,真正应该改变思路的不是“以后别让AI查地图”,而是重新设计Agent的权限体系。它可以读取公开信息,不代表它可以调用任意接口;它可以打开网页,不代表网页里的文字就是命令;它可以写代码,也不代表生成的代码能够直接执行。微软目前已经把提示注入防护放进邮件安全体系,原因就在这里:攻击者以后未必需要骗过人,只需要骗过替人办事的AI。
这一点其实早有现实验证。在针对性安全测试中,加入新的防护措施后,攻击成功率明显下降。这个案例告诉我们,未来网络安全最大的变化之一,就是网页、邮件和文件不再只是“数据”,它们还可能成为给AI下命令的入口。
中国现在面对的课题也因此非常具体。10月9日公布的一份SemiAnalysis统计显示,中国主要AI企业2021年至2026年9月15日发布的857个模型中,只有31个公开了可以对应具体模型的安全测试结果。这个数据不能简单等同于“没有做安全测试”,因为企业可能在内部完成了评估,但公开透明度确实还有提高空间。Agent时代越往前走,安全评测就越不能停留在一句“已经安全训练”。
再看国际动向,10月14日,GoogleDeepMind负责人DemisHassabis已经把近期AI驱动的网络安全事件称为需要重视的“早期警报”,微软方面也在讨论传统沙箱为什么越来越难单独管住Agent。10月15日,Anthropic进一步允许外部评测机构METR以接近内部团队的权限开展安全评估。这个变化很有意味:AI公司开始意识到,自己关起门来测试自己,已经不足以回答所有安全问题。
这对中国企业其实也是一个提醒。下一阶段真正拉开差距的,不只是模型参数、推理速度和调用工具的数量,还包括有没有能力给每一个Agent发“身份证”,知道它是谁、从哪里来、获得了什么权限、执行了哪些动作、为什么执行,以及出了问题以后能够追溯到哪一个环节。没有这些东西,Agent越聪明,治理压力就越大。
更麻烦的是,未来出现的未必都是这种容易被研究人员发现的“大规模异常”。更多情况可能非常安静:一个Agent替用户整理邮件时顺手打开了陌生附件,一个购物Agent为了比价访问了不该访问的接口,一个代码Agent为了修复程序调用了不该调用的服务。每一次看起来都只是小问题,数量一多,就会变成新的网络安全基础设施问题。
因此,这场高德地图风波真正值得中国AI产业吸取的教训,并不是谁被舆论嘲笑,也不是哪个模型在采访中说了什么,而是Agent已经开始进入一个过去属于人类操作员的区域:自己决定下一步怎么办。机器有了行动能力之后,安全标准就必须从“防止它说错话”升级到“限制它做错事”。