一个账号，用AI做出来的脸和声音，30天卖出50万元的货，被识破后永久封禁。吴越在微博上只问了一句：骗了多少钱，请如数奉还。

10月18日凌晨，吴越发文喊话视频号"花姐美肤日记"，这个账号用AI换脸、AI拟声，把她的面部特征、神态、声线还原得几乎一模一样，视频里的"她"说自己主动甄选、孕妇可用、值得放心买。同一条视频里还捎带了一个跟邓亚萍高度近似的形象。该系列产品近30天销售额50万元，投诉量1900条，账号已被永久封禁，侵权视频全部下架。

这套生意的成本低得离谱。齐鲁晚报的报道里，定制一条换脸拟声短视频，100元就能拿下，便宜的40元。而被冒用的名人要维权，得先公证、再取证、再跨平台投诉、再起诉，一套流程走完，账号早就换了三茬。

很多人会觉得，视频角落不是标了"含AI生成内容"吗，标了还算骗人？

关键卡点在于，标注解决的是"你知不知道这是假的"，不解决"你有没有权利这么做"。标识是一项法定义务，作用是让人知情，它跟授权是两回事。就像商店在门口挂个牌子写着"本店售假"，牌子挂了，售假这件事一点没变得合法。

更麻烦的是这套标识机制本身。按《人工智能生成合成内容标识办法》，发布者要主动声明、使用平台提供的标识功能，平台再去核验隐式标识。可实际操作里，一条换脸带货视频会不会被打上AI标签，很大程度上取决于发布者愿不愿意承认自己是假的。把防线建在骗子的自觉上，能有多牢靠。就算真标了，普通人看到"含AI生成内容"这六个字，也分不清是脸换了还是声音换了，而视频里的"吴越"还在说"我亲自选的"。

第二个卡点是法律看什么。最高法2026年9月7日印发的《关于依法审理涉人工智能纠纷案件的意见》，把标准落在一个词上：可识别。只要公众能认出视频里这个人指向谁，哪怕做了AI标注、哪怕合成形象有细微差异，未经许可商用就是侵害肖像权。9月发布的网络法治典型案例里，李某瑾诉徐州欣某文化传媒案，公司截取她公开授课的画面，配上高度吻合的AI合成声音做带货视频，法院认定侵害肖像权和声音权益，判赔12万元，理由里有一条很关键：公司没有审核素材来源和授权，未尽合理审核义务，构成共同侵权。

这里能看出司法的思路，责任不只在动手做视频的人身上，谁经手、谁分发、谁该审核而没审核，都要摊。

第三个卡点是钱。造假100元，封号成本接近于零，换个号重来；被侵权的一方要花几个月、几万块，最后可能拿到一份12万元的判决。单个案子的判赔，打不疼一条流水线。真正能改变成本结构的，是另外几件事：消费者冲着这张脸下单，属于被欺诈，消保法第五十五条支持三倍赔偿，最高法意见第十项明确法院予以支持，不足五百按五百算；权利人可以向法院申请人格权侵害禁令，不用等判决下来，先把内容按下去；平台接到通知不处置的，要就扩大部分担责，明知或应知而放任的，与账号方承担连带责任。

话说回来，AI本身没什么可骂的。换脸、拟声这些能力，做影视修复、无障碍播报都是好事。出问题的是三个条件同时成立：能认出是谁、用于商业变现、没有授权。治理的手应该抓这三个要件，而不是抓技术本身。技术跑得越快，这条线越要画得清楚，否则每个有名有姓的人，都得隔一阵子上网看看自己是不是又在替谁卖货。