仅一年光景，被推上神坛的“英雄”便成了“人人喊打的过街老鼠”，国家也该出手整治AI了，不能一味热捧铺开；万物皆有利弊，科技越热越要防反噬。
 
这话听着重，可现实已经把问题摆到了桌面上。
 
9月1日，中央网信办在2026年国家网络安全宣传周新闻发布会上，直接点出人工智能面临的五类安全风险。
 
这次说的不是“AI偶尔答错一道题”那么简单，而是从模型自身缺陷，一直谈到智能体越权、网络攻击、虚假内容、就业冲击和技术霸权。
 
其中最值得警惕的，是AI正在从“动嘴”变成“动手”。
 
过去让AI写篇文章、画张图片，即便内容有误，最多是闹笑话、误导人。现在的智能体却能调用文件、操作软件、执行命令，甚至跨平台完成一连串任务。
 
权限给得越大，出错后的代价就越高。
 
一个普通聊天机器人胡说八道，人还能及时关掉页面。一个握着账号、通讯录、支付权限和电脑文件的智能体若被攻击，可能直接泄露隐私、删除资料、冒充用户发消息，甚至成为黑客进入其他系统的跳板。
 
这已经不是“好不好用”的问题，而是“谁来控制它、出了事谁负责”。
 
AI本身还有一个绕不过去的毛病：它看起来什么都懂，实际上并不知道自己说得对不对。
 
训练材料里若混进错误信息、偏见和歧视，模型就可能一本正经地把假话说成真话。输入内容稍微变化，结果也可能完全不同。偏偏它的推理过程又不透明，出了问题，很难像修机器一样迅速找到故障零件。
 
用它写段娱乐文案，错了还能修改。可一旦进入医疗、金融、交通和生产系统，同样的错误就可能造成真金白银的损失，甚至牵扯人身安全。
 
更麻烦的是，AI已经被一些人做成了批量造假的机器。
 
一张照片可以换脸，一段声音可以克隆，一件根本没有发生过的事，几分钟就能做出视频，再配上情绪激烈的文字，扔进网络收割流量。
 
普通人以前辨别真假，还能看看画面有没有拼接痕迹。如今AI生成的视频越来越逼真，嘴型、声音、表情都能对上。老人可能分不清“亲人求救”的电话是真是假，消费者也可能把假冒专家当成真人。
 
还有人用AI批量生产低俗视频、邪典动画，恶搞未成年人形象；有人让软件托管大量账号，自动写文案、发评论、带节奏；有人盗用明星、医生和财经人士的脸，披着别人的身份卖货、荐股、引流。
 
生产一条假消息的成本降到了几乎可以忽略，核实和辟谣的成本却越来越高。造假者点一下按钮，平台、媒体和当事人可能要忙上几天。
 
国家其实已经出手，而且不是只喊口号。
 
“清朗·整治AI应用乱象”专项行动第一阶段，处置违规网站、应用程序和智能体等AI产品1.4万余款，清理违法违规信息600余万条，处置账号2.6万余个。
 
第二阶段又清理违法违规信息561万余条，查处账号4.9万余个，处置违规网站、应用程序等2400余个。
 
这些数字说明，AI乱象已经不是零星几个人搞恶作剧，而是形成了批量制作、批量传播、批量变现的链条。
 
现在要管的，不只是最终出现的假视频，还包括没有履行备案义务的模型、审核能力不足的平台、被污染的训练数据、故意去除AI标识的工具，以及利用智能体窃取账号和密钥的行为。
 
这才是治理AI该有的样子。
 
不能等假消息传遍全网，再让受害者自己出来解释；不能让平台赚走流量，却把辨别真假的责任全甩给用户；更不能让企业打着技术创新的旗号，把未经验证的AI一股脑塞进教育、医疗、金融等容错率极低的场景。
 
AI可以提高效率，但不能成为裁员后推卸服务责任的借口；可以帮助创作，但不能盗用别人的脸和声音；可以替人跑腿，却不能背着主人乱做决定。
 
真正成熟的科技，从来不是只比谁跑得快，还要看出了问题能不能停、能不能查、能不能追责。
 
AI这把火可以继续烧，但炉子必须结实，边界必须画清。否则今天被奉为改变世界的英雄，明天就可能变成污染信息、侵犯隐私、制造骗局的帮凶。
 
技术没有天然的善恶，可放任技术的人，必须承担后果。