“AI造黄谣”再引热议,中国官媒下场斥责9.9元“一键脱衣”黑产
从 DeepSeek 到豆包,中国 AI 应用正在快速迭代,但随之而来的滥用问题也开始集中爆发。
近期,中国舆论场热议一个现象:有人利用 AI 生成淫秽、擦边图片和视频,并通过教程、口令、插件等方式大规模传播。央视调查指出,网上已经出现公开售卖“AI 造黄口令”的灰色生意,有人声称只需一张照片,甚至几段文字,就能生成所谓“大尺度”图片或视频。
在短视频平台上,“AI制作美女视频”“全网最强大尺度”“AI擦边赛道日入五位数”等内容层出不穷,一些教程甚至详细讲解如何规避平台审核。二手交易平台上,也有人用暗语出售相关教程,价格不到10元,却包含极其详细的操作手册。
媒体调查发现,这些口令会细致描述人物发型、表情、姿势、动作幅度等内容,并通过替换英文、暗语等方式绕过 AI 平台的基础安全限制。
被点名的平台既包括豆包等大模型产品,也包括 ComfyUI 这类本地部署工具,以及依附在视频生成模型上的辅助编辑平台。需要注意的是,这些工具本身并非专门为生成淫秽内容而设计,但其强大的图像和视频生成能力,正在被部分用户恶意利用。
更值得警惕的是,这类内容已经渗透到青少年常用平台。在 Bilibili 搜索相关关键词,仍能看到“大尺度工作流教学”等内容。有创作者甚至直白表示“学 AI 就是为了搞黄”,并在评论区向网友分发口令和插件。
AI 技术本身是工具,但当生成能力越来越强、使用门槛越来越低,平台审核、法律监管和用户责任都必须同步跟上。否则,所谓“技术进步”很容易被灰色产业快速吞噬。