国内首例AI服务涉黄判刑案，已经走到二审阶段。

案件的主角，是一款名为 Alien Chat 的 AI 陪伴聊天应用。

据公开报道，因为大量用户在 App 内与 AI 智能体聊黄，App 的主要开发和运营者被追究刑责。

2025 年 9 月，上海市徐汇区人民法院作出一审判决。

两名被告人被认定犯制作淫秽物品牟利罪。

一人获刑四年，一人获刑一年半。

据小事哥了解，这是国内第一次有 AI 服务提供者因涉黄内容被判刑。

这个判决在技术圈和创业圈引发了很大震动。

判决书披露，Alien Chat 是一款主打情感陪伴的聊天应用。

用户注册会员后，可以创建虚拟角色。

用户也可以使用他人公开的角色。

AI 会基于大语言模型进行对话。

数据显示，AC 注册用户约 11.6 万人。

付费用户约 2.4 万人。

截至案发，平台会员充值金额超过 363 万元。

在社交平台上，不少用户曾评价这款产品“限制少”“很敢聊”。

也有用户抱怨，别人聊黄会影响模型表现。

一些正常聊天内容因此变得露骨。

法院在一审中认定，App 内持续产生大量具体描写性行为的内容。

这些内容被认定为淫秽物品。

更关键的一点在于，法院认为开发者并非完全被动。

判决指出，被告人通过编写和修改系统提示词，突破了模型原有的道德限制。

这种设计，使 AI 可以持续向用户输出淫秽内容。

法院判决中还提到，开发者动手改了系统的提示词，也就是Prompt。

为了让AI能流畅地输出黄色内容，他们特意调整了模型原有的道德限制。

说白了，就是故意让AI聊黄色内容，然后再靠用户充值赚钱。

法院因此认定存在“制作”行为。

小事哥认为，这个判断是本案争议最大的地方。

它把责任从用户行为，直接推到了技术设计本身。

Alien Chat 官方此前的宣传中，曾强调 AI 拥有情感和关系属性。

它被描述为朋友、恋人，甚至家人。

但现实中，这种高度拟人的设定，也放大了风险。

据报道，该 App 已在 2024 年突然停止服务。

两名被告人不服一审判决，已提起上诉。

二审将于 1 月 14 日，在上海市第一中级人民法院开庭。

这场二审，不只关系两名开发者的命运。

它也可能影响整个 AI 应用行业的边界。

尤其是情感陪伴和角色扮演类产品。

你们觉得，AI聊天到底该不该设限？开发者有多大责任？

评论区聊聊，小事哥在线蹲答案。