近年来，人工智能技术在影视领域得到广泛应用，极大丰富了群众的文化生活。然而，《新华视点》记者近日发现，一些深受年轻人喜爱的AI动画作品中存在着奇怪的人物、令人毛骨悚然的音效和低俗的内容。有些内容包含色情或恐怖等元素，这可能会让父母担心。
这种AI动画是如何制作出来的呢？我们如何为儿童保持网络空间清洁？记者对此进行了采访和调查。
“百合百合紫丁香……”天津市民李先生注意到，儿子最近一直在“嘀咕”。我查了一下，发现这是深受青少年喜爱的《山海AI经典》中的一个动漫人物的名字。
“很多‘经典AI山海’视频画面奇特，背景昏暗，没有故事和逻辑。不过，孩子们会喜欢看的。”和同学们一起讨论这些动画形象，甚至将内容视为《山海经》的真实故事。”李说。
家住山西省大同市的张先生说，他正在使用一款视频应用程序给孩子们播放动画片，系统反复显示被人工智能“神奇修复”的动画。 “一开始我在看《我的小马驹》，但后来它开始播放《我的小马驹》拉着婴儿车哭泣并被艾莎公主打屁股的视频。 “我本来打算看‘天线宝宝’，但视频显示天线宝宝被起重机压碎了。”
此外，其中一些人工智能动画被标记为“儿童动画”，也可以在青少年模式下观看。而且，由于大数据算法的配置，当孩子主动或被动观看此类AI动画时，类似的视频会频繁出现，难以防范。
许多接受采访的家长都表示担心的人工智能动画视频以孩子们熟悉的经典卡通人物为特色。如果孩子信任的角色行为不当，孩子的认知可能会受到影响。它不仅会造成智力上的混乱，还会引发模仿。
除了《AI山海经》之外，根据《红楼梦》《西游记》《三国演义》等经典作品改编的AI视频也出现在社交媒体和短视频平台上。 “林大宇拔垂柳”、“唐僧持加特林枪”等荒诞场面令人触目惊心。天津市河西区esDexian小学校长周锐认为，这种对经典作品的歪曲和戏仿，会对尚处于人生观形成阶段的青少年产生负面影响。
AI视频中有害内容的“最有害区域”
根据我们的研究，跨多个人工智能内容生成平台ms，用户只需上传简单的文字，输入文字指令，即可快速生成动态视频。电商平台上也有专门从事动漫定制服务的卖家。在社交媒体上，你还可以看到大规模人工智能生成图像的教程帖子和测试帖子。其中，动漫是AI视频中不当内容“受影响最大的行业”。
“虽然AI技术大幅降低了视频制作的成本和门槛，为内容创作者提供了大力支持，但客观上也为更多误导性甚至误导性的视频产品进入用户视野打开了大门。”南开大学信息与传播学院副教授于门丽表示，一些投机创作者利用年轻人的优势来“获得关注”。
记者证实，短视频平台上存在不少AI动画，内容荒诞、暴力、暴力等。经常含有色情内容，有相当大的流量。比如，一部《奥特曼开着挖掘机，在路上疯狂砸车》的动画就获得了2.6万个点赞。
根据行业专家的说法，有多种方法可以通过此类内容的创作来获利。我会做。除了分享平台流量外，你还可以通过销售盲盒、卡片等周边产品，或者引导用户进入你的私人领域来赚钱。以《山海AI经典》为例，手办、公仔、影印图鉴等衍生产品在电商平台上销售。
工信部法律战略与工业信息技术管理重点实验室副主任赵景武表示，对于人工智能生成的照片和视频，平台普遍采取“人工+机器”的审核方式。部分平台利用数字技术工具对照片进行批量审核和视频内容。一些平台还设有专门的人工审核团队来审核内嵌亮点的信息内容，例如用户投诉和报告以及主页推荐。
这种批量生成的AI动画视频对平台的监管体系提出了挑战。赵景武表示，现有审查机制对于处理隐蔽性高、法律特征模糊的网络内容存在局限性。通常很难快速准确地判断一个平台是否包含非法或有害信息。此外，人工智能生成的视频和图像通常与常规内容混合在一起，使得识别更加困难，并显着增加了人工审核的成本。
为孩子打造差异化的网络空间
当人工智能技术深度融入社会生活时，我们如何才能让它成为孩子成长的积极助力，而不是成为有害内容创作的同谋？
这 ”2024年发布的《生成型人工智能服务基本安全要求》明确规定了适用于未成年人的生成型人工智能服务相关内容。
2025年4月，中央网信办开展“扫除和打击人工智能技术滥用”专项行动。修复的重点是使用 AI 删除和绘图等功能进行合成。其中包括制作色情内容，制作和发布血腥、暴力、扭曲人体和超现实怪物的恐怖和离奇图像。
多位受访专家建议，应进一步加强对人工智能视频的产业链监管，强化平台主体责任追究。
赵景武表示，网络平台应重点审核针对未成年人的人工智能合成推送信息，建立专门团队，优化面向未成年人的算法推荐服务，d 加大优质网络信息内容推送力度。
从源头治理的角度，于梦丽建议，应强制AI生成工具加入防篡改的数字水印，以实现内容的准确溯源。
“孩子对信息真假的判断能力较弱，面对人工智能等新技术带来的网络信息泛滥，家长应该积极承担起监护人的责任，成为孩子观看内容的最终‘看门人’。”中宣大学动画与数字艺术学院院长王雷表示：
天津市儿科青少年殿医院心内科主任雷童表示，学校和家庭应加强对未成年人的生命教育，让孩子培养正确的价值观，抵御网络恶意内容的侵袭。同时，我们还需要加大力度供应高品质儿童文化产品。 “如果‘好’内容足够多、足够有趣，自然就没有‘烂’内容生存的空间。”童雷说。 【编辑：梁毅】
甘肃省四地领导人进行了一系列人事调整，80后人员上任。
美国“杀线”到底“杀”了谁？
培训机构可以操纵考试吗？滑雪教练认证市场调查
刚刚参加总理论坛的CEO来日本
美国是不是军费开支太大，买了很多ppt？
提质提质，我国外贸实现新突破
别被骗了！ “票证恢复工具”并不能帮助您更快地恢复票证
北京将迈向5万亿城市并实现高质量发展加速
中新网评网红“画马”步行挑战：谁负责高风险户外签到？
中新网评论：敢于参与抽奖的品牌不要玩文字游戏
治理失败、社会分裂和联盟重组消除了美国的民主困境。
地缘政治紧张局势加剧 美股下跌 国际金价飙升
来自中国的年货“特产”热销，货源多元化精准回应需求。
东雨姬直播再次引发争议，主播也负责带物资。
一生至少去辽源一次！
特朗普：让美国再次伟大！ ？
中国2025经济报告展现强大实力
X级太阳耀斑可能在今天或明天爆炸。有什么影响？