近日，国内首例 AI 服务提供者涉黄获刑案受到关注。因大量用户在 App 上与 AI 智能体“聊黄”，App 的主要开发者和运营者被追究了刑责，罪名为制作淫秽物品牟利罪，分别获刑四年和一年半。

然而，两位被告不服，认为所谓的“淫秽物品”是用户用AI自己生成的，跟他们无关；而且对话都是私人对话，具有“封闭性”，没有对外传播，所以没有社会危害性。

这起案件的二审已于今天在上海开庭。它被业界类比为当年的“快播案”，同时也被视为行业“分水岭”，是因为它彻底打破了互联网行业以往惯用的“避风港原则”，即平台仅提供工具，不为用户生成内容负责。

这起案件的主角是一款名为Alien Chat（简称AC）的App，于2023年6月在各大平台上架运营。它主打AI情感陪伴，允许用户创建虚拟角色进行互动。在AC某官方社交账号评论区，不少用户评价这款AI产品“聪明”“限制少”。

此前在2024年4月，这款App突然停止服务，彼时流传着开发者圈钱跑路的说法，没想到真相是开发者落网了。

相关报道显示，经公安机关抽样鉴定，在150个AlienChat收费用户的12495段对话中，有141个用户的3618段对话属于淫秽物品。

用户和AI一对一私聊，没有对外传播，算不算犯罪？在相关话题下，不少网友表示很疑惑，“是用户主动想聊黄，AI自动生成的，为什么算开发者制作淫秽物品？”

在国内互联网发展的很长一段时间里，“擦边”被视为一种高效的“流量密码”。从早期的漂流瓶、摇一摇，到后来的直播打赏、短视频擦边球，利用人性的本能冲动来获取用户规模增长，几乎是很多社交产品的必经之路。

那时，很多产品尽管带有“擦边”属性，但平台通常会保持一种“中立”态度，或者至少在明面上进行审核。

一旦出事，平台方通常会辩解：“我只是提供了工具，内容是用户生成的，我无法实时监控。”

但这次法院的判决逻辑直接堵住了这个借口，原因有两点：

主动引导：这不是简单的用户自发行为。开发者为了让 AI 能和用户进行露骨的色情对话以留住用户、增加付费，主动编写和修改了底层系统提示词，人为突破了大模型原本的道德限制机制。相当于给AI开了“后门”，让它专门能生成色情内容。

AlienChat软件聊天页面截图

说白了，以前互联网平台的玩法是“提供场所，看客自来”，而AC案开发者的玩法是“设下陷阱，诱客入瓮”。这种“亲自下场引导”的性质，直接导致了法律定性的改变。

商业变现：平台不仅不制止，还通过会员费、虚拟货币奖励等方式，形成了“引导生产-付费观看/互动”的变现闭环。这被认定为具有明显的牟利目的。

据悉，该AI平台注册用户达11.6万人，其中付费用户有2.4万人，充值总额高达363万余元。

法院认为，开发者明知会产生大量淫秽内容，却依然提供技术支持和运营，甚至在宣传中暗示其“具有聊黄”的功能引导用户参与聊天。这种利用淫秽内容作为卖点来获取会员费的行为，完全符合“牟利罪”的构成要件。

这也给现在市面上那些试图做AI伴侣的大模型带来警告：你可以做有技术缺陷的产品，但不能做有主观恶意的产品。

对于普通用户而言，单纯与 AI 进行私密的成人向对话，目前主要被视为违反公序良俗，一般不追究刑责，但如果把聊天记录截图传播或售卖，就是明确的违法行为，轻则被行政拘留，重则面临刑事坐牢。

对于开发者而言，一旦涉及诱导性生成和付费变现，就极易触犯刑法中的“制作、传播淫秽物品牟利罪”。任何试图通过“擦边”“聊黄”来获取流量的商业模式，在当前的监管环境下都是不可持续的，且面临极高的入狱风险。