近年来，AI技术在影视领域得到广泛运用，极大地丰富了群众的文化生活。然而“新华视点”记者近日发现，一些在青少年中流行的AI动画产品角色形象怪异、音效阴森、内容低俗，有的甚至含有色情、恐怖等元素，引发家长担忧。
这类AI动画是如何炮制出来的？如何为孩子守好清朗网络空间？记者进行了走访调查。
“变味”的AI动画防不胜防
“哩哩哩啦哩啦……”天津市民李先生发现，孩子最近嘴里总是“念念有词”，查询后才得知，这是在青少年中爆火的“AI山海经”里动画形象的名字。
“这些‘AI山海经’视频中，不少内容形象怪异、背景阴森，毫无情节和逻辑可言。但孩子看得津津有味，和同学在一起还会讨论这些动画形象，甚至把里面的内容当作真正的《山海经》故事。”李先生说。
家住山西大同的张女士表示，用视频App给孩子播放动画片时，系统多次推送AI“魔改”的动画。“本来在看《小马宝莉》，紧接着开始播放小马宝莉流泪拉车，被艾莎公主拿鞭子抽打的视频；想看《天线宝宝》，播出的视频中却出现天线宝宝被起重机压扁的情节。”
更有甚者，有的这类AI动画标注着“儿童动画”的标签，在青少年模式中也可以看到。此外，由于大数据的算法设置，一旦孩子主动或被动地观看了这类AI动画，便会被经常性推送同类视频，令人防不胜防。
多位受访家长担忧地表示，许多AI动画视频以孩子熟知的经典动画形象为主角，当深受孩子信任的角色做出不当行为，不仅会给孩子带来认知上的困惑，还可能诱导孩子去模仿。
除了“AI山海经”外，此前社交网络和短视频平台还曾出现《红楼梦》《西游记》《三国演义》等经典著作改编的AI视频，“林黛玉倒拔垂杨柳”“唐僧手持加特林”等荒诞画面让人大跌眼镜。天津市河西区德贤小学校长周瑞认为，这类对经典作品的歪曲恶搞，可能对正处于三观塑造阶段的青少年带来负面影响。
AI视频不良内容的“重灾区”
记者调查发现，在多个AI内容生成平台，用户只需上传简单的人物形象、输入文字指令，即可快速生成动态视频，电商平台也存在专门提供动画定制服务的商家。社交媒体上，还能看到有关AI生成大尺度图片的教学帖、经验帖，其中动画是AI视频不良内容的“重灾区”。
“AI技术使得制作视频的成本和门槛大幅降低，为内容创作者提供了极大助力，但客观上也让更多粗制滥造甚至导向不良的视频产品进入用户视野。”南开大学信息与传播学院副教授于孟利表示，一些投机型创作者利用青少年好奇心强的特点，将制作节奏快、刺激性强的AI动画当作“流量密码”，不择手段“博眼球”。
记者在某短视频平台上看到，不少内容荒诞或含有暴力、软色情内容的AI动画流量十分可观，例如某条“奥特曼开着推土机疯狂碾压路面汽车”的动画点赞量达到2.6万次。
据业内人士透露，创作这类内容有多种变现途径，除了平台流量分成外，还可以通过售卖盲盒、卡牌等周边产品，或将用户引流至私域等方式获利。以“AI山海经”为例，已有手办、玩偶、临摹绘本等衍生品在电商平台销售。
工信部工业和信息化法治战略与管理重点实验室副主任赵精武介绍，对于AI生成的图片、视频，平台通常采取“人工+机器”的方式进行审核，部分平台会采用数字技术工具对图片视频内容进行批量审核，有的平台还会设置专门的人工审核团队，针对用户投诉举报、首页推荐等显著位置的网络信息内容进行审核。
这类批量生成的AI动画视频，给平台的监管体系带来挑战。赵精武表示，现有审核机制在应对隐蔽性强、法律定性模糊的网络内容时存在局限，平台往往难以在短时间内准确判定其是否属于违法不良信息。此外，AI生成的视频、图像常与普通内容混杂，进一步增加了识别难度，导致人工审核成本大幅上升。
为孩子营造清朗网络空间
当AI技术深度融入社会生活，如何让其成为孩子成长的好帮手，而不是炮制有害内容的帮凶？
2024年发布的《生成式人工智能服务安全基本要求》，对生成式人工智能服务适用未成年人的有关内容作出明确规定。
2025年4月，中央网信办开展“清朗·整治AI技术滥用”专项行动，重点整治内容包括利用AI脱衣、AI绘图等功能生成合成色情内容，制作发布血腥暴力场景，人体扭曲变形、超现实怪物等恐怖诡谲画面等。
多位受访专家建议，进一步加强AI生成视频产业链的监管力度，压实平台主体责任。
赵精武表示，网络平台应重点审核面向未成年人群体的AI合成推送信息，设置专门团队优化未成年人用户算法推荐服务，增加优质网络信息内容的推送权重。
在源头治理方面，于孟利建议，应在AI生成工具上强制嵌入不可篡改的数字水印，从而实现内容的精准溯源。
“低龄儿童对信息真伪的判断力较弱，面对AI等新技术带来的网络信息洪流，家长应积极承担监护人职责，成为孩子观看内容的最后一道‘把关人’。”中国传媒大学动画与数字艺术学院院长王雷说。
天津市安定医院儿童青少年心理科病区主任雷彤表示，学校和家庭应加强未成年人的生命教育等，让孩子培养正确的价值观，抵御不良网络内容的侵蚀；同时，加大优质儿童文化产品的供给。“当‘正’的内容足够多、足够有趣，‘邪’的内容自然便没有了生存空间。”雷彤说。
冠达配资提示：文章来自网络，不代表本站观点。
沪深京行情 实时轮播
热点资讯
