中国青少年研究中心2025年对全国7个省份的8500余名未成年人进行的调查显示,超过六成未成年人使用过AI。有两成多的未成年人存在“想依赖AI,不想自己思考”的惰性,两成多倾向于“只和AI聊天,不愿与真人交流”,还有两成多因为过度使用AI感到焦虑。这些数据暴露出未成年人接触AI易产生影响独立思考、抑制真实社交、依赖与沉迷等问题。
近年来,我国政府高度重视未成年人网络安全保护工作,采取了一系列积极举措,不断完善政策法规体系。2019年,国家网信办发布《儿童个人信息网络保护规定》,对儿童个人信息权益予以重点保护。新修订的未成年人保护法于2021年6月1日起正式实施,专门创设“网络保护”专章,进一步强化了对未成年人网络内容的监管,加强了个人信息保护,并针对网络沉迷问题制定了专门规定。2024年1月1日,我国第一部专门性的未成年人网络保护综合立法《未成年人网络保护条例》正式施行。该条例旨在为未成年人提供更加安全、有益的网络空间,确保他们的合法权益得到充分保障,促进其身心健康成长。
有部分AI工具正在探索未成年人保护模式。例如,今年8月26日,字节跳动公司旗下AI工具豆包正式上线未成年人保护模式。家长输入密码开启该模式后,推荐视频、浏览第三方网页和豆包以外的智能体对话、AI创作功能将被默认关闭,而翻译、深入研究等功能仍可正常使用。
“通通通通撒呼啦”“哩哩哩辣力辣”……天津市河东区某小学生家长李女士发现,自己的孩子最近总是念叨着这些宛如神秘咒语的词汇。经了解,李女士才知道,这些看似无意义的音节,实则是几幅AI生成的动画形象的名字,“Tung Tung Tung Sahur”(音同“通通通通撒呼啦”)是所谓的“木棒人”,“Lirili larlla”(音同“哩哩哩辣力辣”)是“仙人掌象”,“Tralalerotralala”(音同“特拉辣累喽特拉拉辣”)是“耐克鞋鲨鱼”。诸如此类由AI拼接而成的形象还有很多,它们被孩子们统称为“外国山海经”或者“AI山海经”。
“孩子仿佛‘着了魔’,口中时不时蹦出来这些词语,跟他一起玩耍的小朋友们也都如此。这些将毫不相干元素强行拼凑出的怪异形象,为何能在孩子们的圈子里流行起来?”李女士说,“外国山海经”不仅造型诡异,更夹杂不少暴力、血腥词汇和内容,“孩子或许并不理解其中的含义,但会模仿学习,很容易对他们产生负面影响”。
《法治日报》记者调查发现,近期,“外国山海经”“AI山海经”等AI魔改(指利用AI技术对原作品进行大幅或颠覆性改编的行为)内容在网络上迅速走红,甚至渗透到低龄群体中。与此同时,包含血腥暴力、恶搞低俗内容的“邪典动画”也借助AI技术卷土重来。部分经AI魔改后的内容还被制作成商品,在电商平台销量不俗。
“外国山海经”成社交密码
今年暑假,山东的韩女士在家休息时,6岁的侄子小宇突然问她:“姑姑,中国也有山海经吗?”这个问题让韩女士一时语塞——小宇的书包上挂着“耐克鞋鲨鱼”挂件,房间里也摆满了各种造型怪异的玩具。这孩子第一次接触“山海经”的概念,竟然是通过这些外来的且由AI生成的产物。
韩女士告诉记者,小宇接触“外国山海经”的主要原因是班级里的流行风潮。“孩子们都在聊这些,他想融入集体,只能主动去了解。”韩女士曾尝试向侄子介绍真正的《山海经》,但小宇并不感兴趣,甚至还说“山海经就是国外的,中国的山海经一点儿也不好看”。
在韩女士看来,短视频平台的推波助澜是导致孩子沉迷其中的重要原因之一。小宇平时喜欢的内容都是短视频平台频繁推荐的。受这些内容的影响,小宇已经出现了明显的模仿行为,“经常模仿视频里怪异形象的动作,觉得很帅,还会时不时念叨里面的‘咒语’”。
韩女士说,为了纠正孩子的认知,其父母也曾尝试限制小宇刷短视频的时间,刻意引导他观看优质动画,耐心讲解不良内容的危害,但收效甚微。“我能理解他想融入集体的心情,但眼睁睁看着他被这些内容所影响,我真的很着急。”
李女士注意到,很多由AI生成的图片和视频风格诡异,其中不乏“杀死”“烧死”等暴力词汇,以及“用刀砍人”等危险动作。
记者尝试发现,“外国山海经”等AI图片和视频制作流程十分简单。在多款常见的AI视频网站上,用户只需向AI发送基础的人物形象图片,再通过文字描述想要生成的图片内容,发送指令即可获得对应的图片;随后将生成的图片作为关键帧,补充描述两个关键帧之间的画面变化细节,便能快速生成一段动态视频,还可加入音效和背景音乐。
“邪典视频”卷土重来
广东的梁先生有个3岁的女儿,他偶尔会让女儿玩一会儿手机。女儿还不认字,常在短视频平台上刷视频或者动画片。
然而,他最近发现,女儿频繁被短视频平台推送动画风格的“邪典视频”。“这些视频大多是卡通或3D风格,很吸引小孩子,但是却暗藏着很多令人不适的画面。”梁先生举例说,视频中存在残害肢体、角色从高处坠落等血腥场景,甚至有“把自己的眼珠子挖出吃掉”这样的可怕画面。
“有些内容成年人看了都觉得不适,更何况3岁的孩子。我很担心这类视频会对孩子造成不良影响。”梁先生说。为了屏蔽这类内容,他曾尝试投诉视频、点击“不喜欢”,但相关内容仍会被持续推送给孩子。
浙江省的俞女士也发现,孩子在观看超级飞侠、奥特曼等正版动画片后,平台会自动弹出一批颜色鲜艳却毫无营养的衍生视频,其中不乏“奥特曼怀孕”“小猪佩奇打骷髅”等暴力恶搞内容。
俞女士担忧地说:“我担心长期接触这类短视频,会影响孩子的认知能力和专注力。现在他对篇幅稍长的绘本、书籍已经有了排斥心理,根本没有耐心看完。”为了减少这些不良视频对孩子的侵蚀,俞女士不仅向孩子反复强调这类视频的危害,还尽量下载正版动画片供孩子观看。“平台审核太不到位了,这种恶搞经典动漫角色的视频应该被严格限制。”
有一名曾在某视频公司任职的受访者向记者透露,其前公司就在制作这种类型的视频,旗下几百个视频号都在持续推送“邪典动画”。这类视频实际是将经典的动漫人物进行二次创作。AI技术的普及大幅降低了制作门槛。使用AI生成的视频色彩鲜艳,更吸引儿童。“未成年人流量在平台占很大比重,这类视频不仅曝光度高,流量表现优异,甚至能获得平台支持。这类视频在创作时为博取关注,内容套路化严重:以动漫角色为外壳,填充恋爱情节或暴力冲突、混战场面。由于儿童的判断能力有限,容易信以为真。”
这名受访者还强调,平台算法助推不良内容形成传播闭环——“孩子一旦刷到观看,平台就会推送更多同类内容。”
另一类“邪典视频”是对中华优秀传统文化进行歪曲和污名化的。比如,《红楼梦》中的人物在进行“魔法战争”,《三国演义》两军对垒演变成“激光大战”等,经典作品的核心内涵被彻底颠覆。
有专家指出,AI魔改对经典的伤害早已超越内容层面,它将“低俗猎奇”包装为“趣味创新”,逐步侵蚀文化传承与下一代成长的健康土壤,甚至可能在他们心中埋下“经典可随意解构”“历史可肆意戏说”的错误认知。
AI魔改催生畸形产业链
值得注意的是,记者发现,在社交平台有关帖文和短视频平台评论区,有许多用户公然教学如何用关键词让AI生成大尺度图片,其中部分内容涉及未成年人。比如在“×梦”等AI工具上,虽然直接用“未成年人”“儿童”等关键词无法生成敏感照片,但如果替换成其他关键词,即可免费生成包含性暗示等元素的“二次元”风格的儿童软色情图片,甚至出现“儿童怀孕”等恶劣内容。
此外,记者调查发现,一些AI魔改内容已经实体化,逐渐“侵入”现实世界。
比如,以“外国山海经”为关键词在电商平台检索,有不少形象被印在衣服上或做成盲盒、积木等产品售卖。有些商品标签直接标注“给孩子的礼物”“儿童玩具”等词语。还有些商家表示可以制作AI生成手办定制照片,商品展示图衣着暴露、动作挑逗,并且未作年龄区分。
“外国山海经”衍生出的相关产品还会引发未成年人之间的“隐性”攀比。韩女士介绍,这种盲盒价格便宜的单价仅一两元,价格低廉却在孩子间引发收集热潮。“孩子们聚在一起玩耍的时候,如果别人有自己没有,孩子会产生心理落差,甚至遭到排挤。”
记者在多家网购平台检索“山海经玩具”发现,这类盲盒产品销量较高。某店铺一款包含24盒的盲盒公仔售价仅11.99元,付款人数已超2万,低廉的价格与可观的销量进一步助推其在校园中的流行。
此外,还有一些知名游戏IP推出与“外国山海经”联名的盲盒、卡牌。有小学教师反映,学生频繁向家长要钱,只为购买同学手中的“外国山海经”卡牌——这类卡牌已成为小学生群体中的“社交货币”。据学校周边的文具店店主透露,此类卡牌的销量远超其他品类。
“希望平台和相关部门加强监管,我们家长也要负起责任,把不良AI魔改内容隔绝在外,让技术发挥正确价值。”采访中,有家长如是说。(记者 张守坤 见习记者 于天航)
编辑:张进
相关热词搜索:
上一篇:联通亚欧共享未来 第二届中欧班列国际合作论坛今天开幕