AI“魔改”经典IP,引起舆论关注。图/IC photo
随着AI技术的普及,“邪典视频”卷土重来了?
“有些内容成年人看了都觉得不适,更何况3岁的孩子。”据《法治日报》报道,广东的梁先生发现3岁女儿观看的视频中,存在残害肢体、角色从高处坠落等血腥场景,甚至有“把自己的眼珠子挖出吃掉”的可怕画面。
这些AI魔改动漫,本质就是换汤不换药的“邪典视频”。它们往往顶着孩子熟悉的角色IP,塞满暴力冲突、低俗恋爱情节,专门盯着未成年人下手。部分“邪典视频”还被制作成商品,在电商平台销量不俗。
近年来,有关部门通过关停违规账号、下架非法应用程序、处罚传播有害信息的平台等举措,相关治理工作取得显著成效,把“邪典视频”这类“精神垃圾”压了下去。
然而,AI技术的大规模应用,显著降低了“邪典视频”的制作成本。使用生成式AI,制作者可以很快根据人物原型生成自己想要的画面,甚至不需要掌握太多动画制作基础。
令人忧心的,还有平台算法的推波助澜。这类视频因节奏快、刺激强、认知负荷低,成为流量“黑马”。一旦孩子偶然点击这些视频,算法便会构建“信息茧房”,推送更多同类内容,把未成年人困在“精准喂毒”的循环里。
“邪典视频”无疑对未成年人健康成长构成多重威胁。
其一是宣传色情、暴力,让未成年人在价值观成型期接触危险信息。有家长发现,AI生成的图片和视频不乏“杀死”“烧死”等暴力词汇,以及“用刀砍人”等危险动作描述。
低龄儿童根本分不清虚拟和现实,他们很可能会把暴力当“酷”,把危险当“游戏”,模仿着做出伤害自己或他人的行为,后果不堪设想。
其二是歪曲经典历史人物言行,让未成年人形成扭曲的历史观与文化认知。有孩子接触AI魔改的“外国山海经”以后,竟认定“山海经就是国外的,中国的山海经一点儿也不好看”,对真正的传统文化典籍毫无兴趣。
更有甚者,AI魔改将《红楼梦》变成“魔法战争”,把《三国演义》改编为“激光大战”,颠覆经典的核心内涵,侵蚀文化传承的根脉。
“邪典视频”更深层的伤害,还是针对未成年人的思维与价值观的“投毒”。低龄儿童缺乏辨别能力,长期接触暴力画面可能会导致儿童变得冷漠麻木,对其健康成长带来不利影响。
而这类视频碎片化、强刺激的特点,还会让孩子的注意力难以集中,导致专注力与审美能力退化。实际上,有的孩子受“邪典视频”影响,已经无法耐心看完篇幅稍长的绘本、书籍,严重影响其认知发展。
面对AI技术催生的“邪典视频”回潮,有关部门应跟上技术迭代的速度,加快完善内容监管规则,明确生成式AI的责任边界,严厉打击“邪典视频”的制作、传播及相关衍生品销售产业链。
平台作为内容传播的关键环节,必须摒弃“流量至上”思维,升级算法审核机制,将“儿童利益最大化”作为核心原则,强化“青少年模式”的过滤功能,主动清理存量不良内容,从源头阻断传播渠道。
家庭与学校更要筑牢防线。家长应加强对孩子网络使用的陪伴与引导,合理限制短视频观看时间,多推荐正版优质动画、传统文化内容;学校也有责任教育学生辨别不良内容的特征与危害,培养批判性思维和健康的媒介使用习惯。
AI技术本应是赋能成长的工具,而非炮制有害内容的帮凶。遏制“邪典视频”卷土重来,需要全社会协同发力,既堵住技术滥用的漏洞,又用优质内容填充未成年人的网络空间,让他们在清朗的网络环境中汲取成长力量。
撰稿 / 南木(媒体人)
编辑 / 柯锐
校对 / 刘军