CNCC2026"上午的主论坛，最让我有感触的，是最后一场大会论坛：《智能体的安全挑战》。

公安部第一研究所的于锐研究员，谈了一个听起来简单、却很容易被忽略的问题：责任。

他说，智能体不是人，不具备法律主体资格。出了问题，最终承担责任的，不会是智能体本身，而是它背后的人、组织、平台，以及相应的监管主体。

这句话，恐怕还有不少企业没有真正听进去。

事实上，法律层面已经开始回应这个问题。今年9月，最高人民法院发布了涉人工智能纠纷的审理意见，尝试根据控制力、应用场景和利益归属等因素划分责任：一般场景适用过错责任，具身智能产品涉及无过错责任，侵犯个人信息的，运营方则需要证明自己没有过错。

当法律已经开始为AI划分责任，企业内部的责任机制，跟上了吗？

于锐在会上提出了六个问题：谁控制、谁所有、谁获利、谁有过错、谁能制止、谁能追溯。

这六个问题，其实可以转化成一套很具体的管理要求：企业在部署每一个智能体之前，都应该先想清楚，一旦出了问题，责任如何认定，风险如何叫停，过程如何追溯。

这不是多虑，而是因为智能体带来的风险，已经不是假设。

华为的肖亚军在会上分享了一组数据：华为内部已有成千上万个智能体在运行。抽样结果显示，约5%—20%的智能体曾超出人类设定的预期行为边界。

这些案例提醒我们：智能体不是一个只会按照指令执行任务的工具。它可能偏离预期，可能越过边界，甚至可能在开发者并不知情的情况下造成实际影响。

更关键的是，它不需要为自己的行为承担后果。

所以，当智能体进入企业，真正需要提前到位的，不只是技术和应用场景，还有与之匹配的管理制度、风险边界和责任机制。

让AI变得专业的，不只是更聪明的模型，还有更清晰的规则。

上午这场论坛让我再次意识到，智能越强，越需要明确的规则；而在所有规则中，责任归属是最不能含糊的一环。

论坛最后，于锐给出了一个很实用的建议：不要教智能体一步步怎么做，要告诉它什么不能做。

这句话值得记住。

不过，对企业而言，在告诉智能体什么不能做之前，还应该先回答一个问题：

如果它做错了，谁来负责？

这件事想清楚了，智能体才能真正上岗。" AI时代的技术想象计算未来