通版阅读请点击:
展开通版
收缩通版
当前版:03版
发布日期:
AI“魔改”视频泛滥
警惕!别让“毒动画”带歪了孩子

  暑期到来,课业压力暂时卸下,短视频、卡通动画成了孩子们在闲暇时间的消遣。不少家长会把手机、平板交给孩子独自观看。可近期不少家长反映,一批由AI批量生成、画面色彩饱和度拉满、剧情空洞且价值观扭曲的劣质动画正在短视频平台泛滥。平台自带的未成年人保护模式本应是隔绝不良内容的防护屏障,却存在明显短板,防护效果大打折扣。
  乱象丛生 动画片遭AI“魔改”
  市民刘女士向记者展示了自家孩子反复观看的奥特曼系列短视频,这些短片全部依靠AI剪辑合成。一段视频里,赛罗奥特曼乘着纸飞机在空中滑行,中途失去平衡,掉在泥坑里说“摔得我好痛”。贝利亚奥特曼则说道:“痛就对了,技术不行,多摔点跤也正常,菜你就多练。”刘女士说,原版贝利亚奥特曼虽是反派,但台词也有斟酌,到了“魔改”视频里,全是带着贬低、挖苦意味的网络口水话,没有任何正向引导。
  刘女士满心焦虑,她说,低龄儿童辨别是非、区分内容真伪的能力薄弱,根本分不清官方原版动画和网友自制“魔改二创”,长期观看很容易形成错误认知,分不清好坏,也会误以为角色之间互相挖苦、嘲笑失败者是正常相处方式。
  为此刘女士多次提交投诉举报,可收效甚微,涉事动画视频依旧正常上架播放,没有下架、限流等任何处置措施。
  记者实测 平台审核举报存漏洞
  记者以“儿童动画”“幼儿益智短片”为关键词,在短视频平台检索实测,印证了家长们的吐槽属实。大量标注“幼儿启蒙”“儿童动画”的动画短片鱼龙混杂,有的粗暴篡改经典动画IP的人物人设与原有剧情,进行无底线“魔改”;有的完全脱离逻辑,凭空拼凑杂乱无章的故事,内容充斥刻薄、对立,甚至低俗的情节。
  记者看到,不少短视频还会强行拼接多部不同动画的人物形象,剧情逻辑混乱割裂。其中一条标注“小朋友们都爱看”的短片中,《汪汪队立大功》里人人信赖的莱德队长,被几名孩童合力推倒在地,很快奶龙与哪吒登场,问小朋友为啥打莱德队长,但后续剧情反转,众人又发现倒地的莱德是怪兽伪装,错怪了几名孩子。整个故事刻意制造冲突反转,没有正向观念,只为制造戏剧噱头来博取流量。
  还有一批看似软萌治愈的萌宠动画,剥开可爱画风的外壳,内里剧情令人不适。一段视频里,两只小猫大打出手,竟上演下毒、背叛、打架等桥段,而视频却明晃晃打上“儿童动画”标签吸引孩童观看。
  记者发现,这些视频的收藏量很高,发布视频的账号粉丝量超几万、几十万,评论区还有成百上千条留言。翻看评论区发现,几乎没有理性讨论的文字,而是充斥着各类卡通表情包,点开语音评论留言,传来的全是低龄孩童稚嫩的声音。
  记者筛选多条内容存在明显问题的视频发起举报,却无法直接找到举报入口,需先点击分享按钮,再向右滑动至页面最底端才可调出举报通道。在选择“未成年人相关”举报类别后,页面提供未成年人低俗、未成年人不良行为、色情恐怖动画、未成年人欺诈4项细分选项。举报后,陆续收到反馈,但处理结果都是,“我们已收到您的反馈,平台将持续重点关注,一经核实将从严处理!”记者再次搜索视频,依然能看到这些举报过的视频。
  算法持续推送同类内容形成的恶性循环,是另一重难以规避的隐患。记者在实测期间,点开观看过问题动画,连日来,平台大数据便持续给记者推送同类型“魔改”视频,越刷越多,等于主动把扭曲内容源源不断地推到用户眼前。
  那能不能开启未成年人保护?记者针对家长信赖的未成年人模式开展实测,发现开启该模式后,首页推荐流里的“魔改”动画确实消失,界面整洁清爽,但防护机制存在明显短板。模式规定,单日最长使用时长40分钟,而且专区内动画内容枯燥,很难勾起观看兴趣。
  不少家长向记者诉苦,孩子十分抵触切换未成年人模式,直言开启之后内容乏味无趣,完全不想看。除此以外,记者发现平台还留有游客浏览这一安全漏洞。如果孩子抗拒切换未成年人模式,直接选择游客浏览模式,不登录,无需实名、无需开启青少年防护,时长限制、不良内容过滤规则全部失效,点开软件就能无限制随意刷取各类短视频。
  暗藏伤害 “魔改”动画影响身心健康
  看似短暂的动画观看体验,实则对低龄孩童身心成长暗藏多重隐形伤害。
  西安市红会医院心身医学科主任王莹说,“魔改”动画片直观刺激感官,依靠高频闪烁画面、夸张刺激音效持续激活大脑奖赏回路,极易造成短视频成瘾。一些不良短视频也存在这样的问题,长期观看这类视频的孩子可能出现心理行为问题。一是情绪调节能力退化,视频频繁渲染冲突、虐待情节,孩子潜移默化模仿暴力解决矛盾,在学校和同学发生推搡、争吵,在家易怒哭闹;二是产生持续性恐惧焦虑,惊悚压抑的剧情会植入潜意识,可能出现入睡困难、夜间梦魇、害怕独自关灯睡觉等情况;三是专注力严重受损,大脑习惯这些视频的强刺激输入,面对书本、课堂慢节奏内容无法集中注意力,容易出现学习拖沓、记忆力下降等问题。
  王莹建议,一旦发现孩子性情突变、频繁模仿暴力动作、夜里恐惧失眠,应立刻切断不良视频来源,及时前往心理门诊评估疏导。
  多方联动 共同净化童心家园
  AI技术降低了动画制作门槛,部分创作者依托猎奇、扭曲剧情收割流量、赚取平台收益,形成灰色传播链条。而平台审核滞后于不良内容迭代速度,是暑期“毒动画”大量出现的原因。
  陕西省社会科学院副研究员王晓勇分析,当前AI“魔改”儿童动画属于新型不良内容,传统审核库难以精准识别,导致大量扭曲价值观的二创内容推送给低龄用户。对此,他建议平台升级未成年人防护体系,优化审核模型,建立魔改卡通、黑童话、价值观扭曲类内容识别筛查库,彻底斩断不良内容算法推送链路。监管部门应加大暑期网络内容专项整治力度,对审核缺位、防护漏洞多、不良内容泛滥的平台依法依规追责整改。
  守护孩子暑期上网安全,家庭教育是不可替代的第一道防线。王莹与王晓勇共同提醒广大家长,切勿完全依赖平台防护功能。低龄儿童尽量不单独持有智能手机,使用电子设备务必由家长全程陪同观看,严格把控每日屏幕使用时长。日常多以户外游玩、绘本阅读、手工益智等线下活动替代短视频娱乐,减少孩子对网络动画的心理依赖。同时主动与孩子沟通网络剧情,引导孩子区分动画虚拟与现实对错,帮助孩子建立稳定、正向的价值判断体系。
  动画片应是滋养童心、启迪心智、传递真善美的精神载体,只有多方联动才能彻底清剿屏幕背后的“隐形毒害”,为孩子打造干净、健康、正向的成长环境。
  (来源:《西安日报》)

贵州省互联网出版业务许可证:黔新闻出网版准字第046号黔ICP备05003182号-1 Copyright @ 2003-2023 DDCPC.COM 贵州法治网 Inc. All rights reserved
贵州日报当代融媒体集团主管主办 技术支持:锦华科技