群发资讯网

央视曝光AI“造黄”黑色产业链:9.9元“手搓”大尺度视频,AI短剧平台月卡50

央视曝光AI“造黄”黑色产业链:9.9元“手搓”大尺度视频,AI短剧平台月卡50元、年卡500元。更有“一键脱衣”教程公开售卖,数千人付费。AI技术正在成为不法分子批量“造黄”的工具。

随着AI生成技术门槛不断降低,原本用来提升效率的科技工具,被不法分子盯上,演化出一条分工完整、隐蔽性极强的黑色产业链。记者调查发现,在各类社交平台,不少卖家公然兜售AI涉黄制作教程,最低只要9.9元,普通人跟着教程,依靠一张照片,就能够“手搓”大尺度视频,商家还会附带传授规避平台审核的各类技巧。

除了低价教程,还有成套的付费AI短剧平台对外售卖会员,月卡50元,年卡高达500元,里面充斥大量AI生成的擦边、S情短剧。更加触目惊心的是,产业链当中甚至出现涉及未成年人的AI生成不良内容。与此同时,“一键脱衣”相关教程、工具也在网络流转,数千人花钱购买,上传普通生活照片,就能生成虚假不雅图像,对普通人的肖像、名誉构成巨大威胁。

整条黑产链条分工明确,上游贩卖教程、提示词、工具软件,中游批量生成图片、短视频,下游搭建付费站点引流变现,很多借助境外服务器,加密收款,追查打击的难度大大增加。普通人一张随手发到网上的照片,就有可能被人抓取,用来合成虚假不雅素材,一不小心就会卷入AI造黄谣的伤害当中。未成年人辨别能力弱,一旦接触这类内容,身心健康会遭受严重侵蚀。

事件曝光之后,网上网友的看法分成了截然不同的两派。

很多网友感到十分愤慨,技术本身没有对错,但是被用来批量制作传播色情内容,危害无穷。9.9元的低廉成本,意味着侵害门槛变得极低,普通人防不胜防。尤其是未成年人相关AI色情内容,更是突破法律和人伦底线,必须从严打击整条黑产链条,不能只打击下游使用者,售卖教程、搭建平台的源头也要一并追责。

也有一部分网友表示,AI审核本身存在难点,直白的色情指令能够拦截,但是不法分子改用隐晦描述、外文提示词,就很容易绕过模型风控。平台审核压力巨大,光靠平台封堵远远不够,监管、技术、普法多方面需要同步发力。

这件事的矛盾点,其实就在于AI技术快速普及,和监管治理、伦理约束跟不上技术发展速度之间的冲突。

AI降低了内容创作的门槛,也同样降低了违法犯罪的门槛。过去制作淫秽物品需要专业设备,如今普通人花几块钱买一份教程就可以操作。技术可以向善,也可以作恶,工具无罪,但使用工具作恶的人必须承担法律责任。生成、贩卖、传播AI淫秽内容,涉嫌制作、传播淫秽物品牟利罪,售卖教程同样可以构成共犯,要承担刑事处罚。

当然也有网友提醒,大家在网络发布个人照片时也要提高警惕,不要随意把高清人像照片对外公开。如果遭遇AI合成不雅内容侵害,一定要第一时间保存证据,及时报警维权。

说到底,科技的发展,不能脱离法律与伦理的缰绳。

不能让AI沦为作恶的利器。屏幕前的网友说说,看完这条曝光的黑色产业链,你有什么感触?

以上是小编个人看法,如果您也认同,麻烦点赞支持!有更好的见解也欢迎在评论区留言,方便大家一同探讨。