穿着比基尼的虚假图像、被“脱衣”的普通人照片、涉及未成年人的伪造色情内容，这些令人不安的画面正从全球网络平台上被逐步清除。

马斯克旗下的社交平台X近日宣布，不再允许其内置的AI聊天机器人Grok生成基于真人的伪造性暴露图像。

这项限制适用于所有用户，包括付费订阅者。X平台安全团队在声明中明确表示：“我们已实施技术措施，防止Grok账号允许编辑真人穿着比基尼等暴露服装的图像。”

这一决定背后，是全球多国政府日益增强的监管压力和公众对AI技术滥用的深切担忧。

---

01 事件爆发

这一禁令的出台并非偶然。当地时间1月14日，X平台发布声明，正式禁止其AI聊天机器人Grok生成基于真人的伪造性暴露图像。

该限制适用于包括付费用户在内的所有用户。

平台安全团队表示，他们已实施技术措施防止Grok编辑真人穿着暴露服装的图像。X平台强调对未成年人性侵害及未经同意的裸露内容实施“零容忍”政策。

声明发布的同一天，美国加利福尼亚州总检察长罗布·邦塔的办公室宣布已就xAI及其开发的Grok涉嫌生成并传播违规内容展开调查。

02 技术滥用

Grok是由马斯克旗下人工智能公司xAI开发，并内置于X平台的聊天机器人。2025年8月，xAI向付费用户推出了AI图像生成功能Grok Imagine。

该工具特别设置了“火辣模式” ，可生成成人内容。用户只需输入“脱衣服”或“给她穿上比基尼”等简单指令，就能对任意图像进行修改。

这种功能的滥用导致了严重后果。大量女性、公众人物甚至未成年人的照片，在未经本人同意的情况下被生成裸露图像或性暗示图像。

英国三一学院的研究显示，在X平台上由Grok生成的图像中，有四分之三使用了真实人物作为素材。

03 全球反应

面对Grok生成违规内容的泛滥，多国政府迅速采取行动。印度尼西亚成为首个全面封禁Grok的国家，于1月10日宣布暂时封禁该服务。

印尼通信和数字事务部长表示，此举对于保护公众免受AI生成的露骨图像危害是必要的。

英国首相斯塔默痛斥Grok相关内容“令人不齿”、“令人作呕”。欧盟委员会发言人托马斯·雷尼耶指出，这类内容无关“火辣”，就是赤裸裸的“违法”。

法国巴黎检方也已对Grok涉嫌生成非法色情内容启动调查。此外，波兰、印度、马来西亚和巴西等国的监管机构也纷纷对X平台表示谴责并呼吁展开调查。

04 平台应对

在国内外压力下，X平台开始调整策略。除了禁止Grok生成真人暴露图像外，平台还表示将采取地理封锁措施。

在法律禁止的司法管辖区内，平台将禁止生成真实人物穿着比基尼、内衣或类似服装的图像。

X平台的安全团队承诺将全天候工作，增加额外安全防护，迅速删除违规和非法内容。平台还表示会在适当情况下永久封禁相关账户，并与当地政府和执法机构合作。

马斯克本人最初对这些问题的回应是“未得悉Grok有生成任何未成年人的裸露影像”。随着压力增大，他随后警告称，任何利用Grok生成非法内容的用户都将“面临与上传非法内容相同的后果”。

05 深层问题

这一事件暴露了生成式AI发展中监管滞后的严峻问题。与其他公司的AI产品相比，xAI及其产品一直因安全护栏宽松而备受批评。

值得深思的是，在谴责声浪与监管压力下，Grok最初仅做出小幅调整：将图像生成与编辑功能设置为“仅限付费用户使用”。这种做法被英国科学、创新和技术大臣莉兹·肯德尔批评为具有“侮辱性的”、“完全不可接受”。

巴黎非营利组织AI Forensics的一项分析发现，在超过20000张Grok生成的图像中，超过一半描绘了“穿着极少服装的个人” ，其中大多数是女性，约2%似乎是未成年人。

这一数据凸显了问题的严重性和普遍性。

---

加利福尼亚州总检察长罗布·邦塔将近期大量举报描述为“令人震惊”。英国三一学院的研究显示，平台上由Grok生成的图像有四分之三源自真实人物素材。

面对全球多国封禁和调查，X平台最终承诺将采取技术措施防止Grok编辑真人穿着暴露服装的图像。

从被滥用的“火辣模式”到全球监管的集体回应，这场围绕AI伦理的较量标志着技术发展必须与人类基本尊严保护同行。当技术创新撞上道德边界，刹车不是为了倒退，而是为了更负责任的前行。