检察日报：兜售AI“造黄”教程已触法律红线

9.9元就能轻松购得“利用AI技术制作色情擦边视频”教程；发布售卖AI生成擦边视频“提示词”，称只需复制到AI软件即可获得擦边视频；开发灰色通道，供用户下载境外大尺度涉黄AI聊天软件……目前，部分不法商家、网络博主公开售卖各类“秘籍”，以传授人工智能生成色情内容的方法非法牟利，已形成一条产业链（据央视《财经调查》4月12日报道）。

几张普通照片、几句简单指令，再花几块钱买个所谓“教程”，就能批量生成低俗色情内容，甚至靠传播牟利。AI“造黄”门槛低、传播快，让违法成本变得更低，危害无须多言。

事实上，监管红线早已划定。根据2023年8月起施行的《生成式人工智能服务管理暂行办法》和2025年11月正式实施的《网络安全技术 生成式人工智能服务安全基本要求》，提供和使用生成式人工智能服务，不得生成暴力、淫秽色情等内容，还要对明显诱导生成违法不良信息的问题拒绝回答。这不仅为服务提供者和使用者设定了基本准则，也说明兜售人工智能“造黄”教程，帮助使用者“造黄”同样违反监管要求。

进一步讲，部分不法分子挖空心思教人“钻空子”，精心设计隐晦提示词、将敏感词翻译为英文、教唆使用境外软件或本地离线部署，从而规避限制机制，此类行为虽未直接提供“造黄”软件，亦未直接生成色情淫秽信息牟利，却能够为AI“造黄”相关违法违规行为提供关键帮助，其社会危害性也不可小觑。

此前，中央网信办部署开展的“清朗·整治AI技术滥用”专项行动，曾明确将传授、售卖违规AI产品教程和商品等作为重点打击对象。这也传递出一个信号：为利用AI技术实施不法活动提供引导和帮助的行为，已经引发监管部门高度关注，且被纳入重点惩治范围。

值得欣慰的是，约束AI滥用的“笼子”也在越扎越紧。将于今年7月15日施行的《人工智能拟人化互动服务管理暂行办法》明确规定，提供拟人化互动服务时，不得传播淫秽、色情、暴力等内容，进一步明确了安全评估和算法备案的相关要求，还对未成年人和老年人使用拟人化互动服务作出了相关规定。可见，随着一系列监管政策的出台与落地，打击传授AI“造黄”行为、斩断相关产业链的依据愈发坚实。

AI“造黄”看似是新技术带来的新问题，实际上是老套路披上了新马甲。解决的方法依然是拿起法律利器，严格监管、持续整治。

“造黄”教程可以公开兜售、“提示词”真能获得擦边视频，这也说明，安全拦截依然是整治AI“造黄”的重中之重。AI服务提供者理应把好“第一道关”，严格落实训练数据管理与过滤职责，筑牢防范AI“造黄”的前置防线。监管部门也要紧跟AI“造黄”产业链演变特点，及时调整细化监管措施，督促平台清理兜售AI“造黄”教程的信息，封堵境外涉黄AI软件流入的灰色通道，让监管真正做到常态化、不松懈。