今年以来，人工智能生成的短视频在各大平台迅速走红，一些名为“外国山海经典”的视频在未成年人中引发热潮。有些孩子熟记视频中怪物的名字。 多种类型的“动画角色” 全部由AI拼接生成 在这些视频中，孩子们一遍又一遍地重复尴尬且毫无意义的音节。其实它们并不是废话，而是一些网络动漫人物的名字。我们来看看这些“动画人物”：有一个火柴人；有一个火柴人；有一个火柴人。一头长着仙人掌身体和拖鞋的大象；身体扭曲的青蛙；鳄鱼和军用飞机的融合；还有违反常识的奇怪图像，例如上面有猩猩头的香蕉，有猫头的鱼，athb。这些图像并非来自传统动画或经典IP，而是由AI拼接生成。 北京市互联网信息办公室网络数据与技术处工作人员王玉凯：在fact，最大的受众群体是未成年人圈子，尤其是中小学生，还有一些年龄较小的人。他们很容易被这类视频内容中的一些夸张的叙事图像和怪物元素所吸引。 很受孩子们的欢迎 相关视频点赞数惊人 那么，这部所谓的“外国山海经”到底有多受孩子们欢迎呢？记者搜索多家短视频平台发现，带有“外国山海经典”、“AI山海经典”等标签的视频轻松获得数十万甚至数百万的点赞和转发。在现场，不少家长感叹：“我连课文都背不下来，却背了外国山海经典”； “孩子每天都能背一长串”； “不需要死记硬背，读得越多，就越会记住。”多名网友贴出了一份手写的“角色名单”，上面写着这些人的名字纸上密密麻麻地抄写着AI人物。 聚焦视频源 为何让孩子着迷？ 从这些视频中不难看出，成年人并不真正理解这些荒诞的AI动画图像的含义，但孩子们却对它们非常着迷。那么这些人工智能生成的视频从哪里来呢？为什么短短几个月就受到未成年人的欢迎？ 北京市网信办网络数据技术部工作人员王玉凯：“洋山海经”起源于2025年初国外社交平台上的一类被称为“烂脑筋”的视频，这些视频的本质是利用AI技术产生一些不良行为。同时，还有一些神秘的洗脑视频。看完之后，大脑仿佛退化了，所以在国外被称为脑腐梗。 移居国外“烂脑视频” 触发二次创作和传播 这些是“br风靡国外社交平台的“ain rot 视频”：使用意大利语等外语配合神奇的音效，然后利用 AI 图像生成工具将动物、物体和人类特征随机连接，创作出一系列荒诞怪异的图像。 今年年初，该视频被网友转发至国内短视频平台，并迅速引发大量二次创作和传播。有人做了人物描述，有人做了一些新的故事背景。场景与动画图像之间的联系引起了许多未成年人的注意。 随后，这些视频被网友称为“外国山海经典”或“AI山海经典”，并迅速在未成年人中流行。其实它们与中国古代经典《山海经》没有任何关系。 从线上传播到线下 周边玩具畅销 而且，这个春ead不再局限于互联网，而是从线上蔓延至线下。 记者调查发现，在一些主流网购平台上，搜索“外国山海经”会自动链接大量相关词语。除了以这些AI动画人物为原型的玩具、人偶外，还有文具、漫画、生活用品等，很多商品页面都显示“已售出10万+”，销量巨大。 记者走访了学校周边的几家文具店、超市、玩具店，也发现有与《外国山海经》相关的玩具出售。 北京市网信办网络数据与技术部工作人员 王玉凯：很多小学生都把《外国山海经》当作学校的社交货币。孩子们吹嘘谁能记住更多《外国山色经》中怪物的图片和名字一些家长还表示，孩子做作业时会模仿《外国山海经》中的怪物，发出奇怪的声音，其实这会给未成年人的学习和生活带来负面影响。 北京市网信办工作人员发现，网络平台上流传的一些与《外国山海经》相关的短视频，除了耽误学习、分散注意力外，还可能对未成年人的身心健康造成危害。 北京市网信办网络数据与技术部工作人员 王玉凯：像《外国山海经》一样，里面有一些叫大逃杀、打斗，甚至是软色情的元素和题材，很容易对未成年人产生示范作用。 涉及暴力软色情内容 很容易误导未成年人 在这些视频中，人工智能生成的动画图像经常表现出暴力行为场景：火柴人挥舞棍棒砸车；巨大的野生怪物在城市街道上追赶人们；以及持刀砍伤其他动画形象……这些具有攻击性和破坏性的图像不仅加剧了暴力，而且由于角色的卡通性，削弱了伤害感。它们很容易被未成年人误认为“有趣”或“酷”，从而导致模仿。 同样令人担忧的是，一些利用这些图像开发的小游戏还含有软色情内容，损害未成年人的身心健康。 在这些视频的评论区，不少家长反映，自己的孩子对所谓的“外国山海经”非常沉迷。有的孩子甚至不知道中国有《山海经》，而是先入为主地认为“《山海经》是外国的”。对此，中国大学互联网法研究所所长李怀生政法大学教授认为，现在孩子接触网络的年龄越来越小，很多人还没来得及了解真正的传统文化就被这些有害内容误导了。 技术门槛低 推荐算法“助推”不当内容 记者调查发现，不少家长确实意识到此类短视频存在的问题，并极力阻止少数孩子接触此类短视频。但令他们困惑的是：为什么这些内容会在网络上传播得如此之快？为此，我们咨询了互联网和人工智能领域的专家。看来，技术门槛的降低和算法的推荐造成了这一趋势。 当前，人工智能、大数据等新技术、新应用不断涌现，给网络生态治理带来新挑战。 这两个动画视频是由artifi随机生成的社会情报研究人员使用市场上两个主要的大模型。只需输入几个描述人物和场景的关键词，只需要几十秒就可以生成这样的动画内容。 责任和界限还包括技术酷哦 人工智能、大数据等新技术的快速发展给我们的日常生活带来了前所未有的便利。降低内容创作门槛，让普通人有更多表达和创作的可能性。然而，技术的便利也伴随着责任和限制。 法律专家指出，根据《互联网信息内容生态管理条例》相关规定，该法鼓励网络信息内容生产者创作、复制、发布符合社会主义基本价值观、积极健康、有利于公众特别是未成年人成长的内容。豪事实上，目前的人工智能视频内容荒诞，逻辑混乱，缺乏邪教内涵，没有教育或审美价值。 此类视频非常受未成年人喜爱。凭借其高点击率和完成率，在平台算法推荐的支撑下实现“裂变”传播。 “我越看它，我就越推动它。我越推动它，我就越看它。” 推荐算法形成一个循环 人工智能研究人员指出，像《外国山海经》这样的视频，利用夸张、新颖、高冲击力的画面来吸引未成年人的注意力。只要孩子出于好奇而点击观看几秒，算法就会立即标记出兴趣，并持续推送类似内容，形成“越看越推、越推越看”的循环。 一些家长注意到此类内容对他们的心理产生负面影响孩子们会主动举报或屏蔽。但人工智能研究人员指出，即便如此，算法仍可能根据用户行为或类似内容特征继续推送此类视频。 北京致远人工智能研究院高级行业研究员金洪波：平台在处理行为举报的时候，是一个人工审核的过程。人工判断过程需要有分钟、小时甚至天的滞后时间窗口，但对于算法推送来说，是毫秒级的实时推送，所以我们的人工评估速度或者人工干预速度与算法分发速度存在很大的时间差。 法律是明确的 禁止传播损害男性或年龄发展的内容 那么，为什么这些人工智能生成的动画视频在短视频平台上广泛传播呢？我国法律对传播内容有相关规定吗？线上平台应如何履行l 他们的监管职责？ 中国政法大学网络法研究所所长 李怀生：如果作品本身符合社会主义核心价值观，无论是违法还是犯罪，是否有煽动，是否对未成年人的成长有任何危害？ 《互联网信息内容生态治理条例》对于什么样的信息可以在网络空间传播也有相关规定，也设定了明确的禁止性条款。我们有《中华人民共和国未成年人保护法》和《互联网未成年人保护条例》，对此还是有非常明确、具体的规定。 《互联网信息内容生态管理条例》第六条规定，网络信息内容生产者不得制作、复制、发布淫秽、色情、赌博、暴力、凶杀、恐怖、煽动犯罪等违法信息。内容。 《互联网未成年人保护条例》第二十二条规定，任何组织和个人不得制作、复制、发布、传播含有宣扬淫秽、色情、暴力、邪教、迷信、赌博、鼓励自残、自杀、恐怖主义、分裂主义、未成年人身体健康以及其他有害心理健康内容的网络信息。 法律专家指出，除了对网络内容本身有明确的法律规定外，中国法律对平台的责任和义务也有严格的要求。 中国政法大学互联网法研究所所长 李怀生：对于网络平台来说，他们确实负有首要责任或者第一责任。平台要实施有效的前期信息管理，及早屏蔽可能危害未成年人身心健康的信息。信息平台对严重违背社会主义基本价值观、违法犯罪、淫秽、色情、暴力、凶杀等内容的单位，必须立即采取措施，制止信息的进一步传播。涉嫌违法犯罪的，平台必须向有关主管部门举报。 开发适合未成年人的算法推荐机制 北京市网信办工作人员指出，为了限制此类恶意短视频的传播，我国相关部门也对算法推荐做出了明确规定。 北京市网信办网络数据与技术处工作人员 王玉凯：早在2021年，国家网信办就发布了《互联网信息服务算法推荐管理规定》，明确要求算法推荐服务提供商坚持核心价值观和文化导向，并在同时不鼓励用户推荐逻辑。同时，也对未成年人保护的模式提出了相关要求，必须制定适合未成年人年龄的算法推荐机制。 专家表示，推动大规模人工智能模型和算法技术符合核心价值观是当前人工智能研究的一大方向。 管理相关混乱 需要结合平台的主要职责 法律专家认为，应对《外国山海经》等乱象，除了升级算法技术外，还必须夯实平台主体责任。平台作为主要的内容分发枢纽，必须主动履行筛选、过滤和处置义务，将推荐权重向健康、有用、优质的内容倾斜。 李怀生 互联网总监中国政法大学法学院：平台要遵循基本社会导向，主动、有效、及时地进行人工干预。我们必须对任何伤害未成年人的事情保持警惕。对于身心健康，或者说网络作品不能促进未成年人身心全面发展的网络现象，我们必须对此类现象采取综合性、整体性的治理措施。 2025年4月，国家网信办发出通知，在全国部署开展为期三个月的“清理审查人工智能技术滥用”专项行动。尚待整改的七类问题中，包括“诱导未成年人沉迷的AI应用、未成年人模式下存在影响未成年人身心健康的内容爸爸等”。 近日，北京市网信办鼓励引导地方网站平台确定通过深化算法修正、开展违法内容查处和清理，防止人工智能技术滥用引发的网络混乱，有效保护未成年人网络空间安全。 今年9月1日起，《关于对人工智能生成的合成内容进行标注的建议》将正式实施，明确所有由人工智能生成的文字、图像、视频等内容必须“明确表明自己的身份”，并标注人工智能生成的标识。 北京市网信办工作人员在接受记者采访时也提到，如果网络平台发现含有有害内容的短视频，可以及时举报，并共同参与网络环境治理，为未成年人筑起一道保护屏障。 北京市网信办网络信息服务管理处工作人员王志辉：我们引导网站平台开设了专门举报区。网民如发现违法、不良信息，可按照网站平台举报指引进行举报。或者，您也可以向我们的网信部门举报，我们将立即受理举报并作出决定。 针对《外国山海经》等视频及其衍生线下周边产品对未成年人造成的负面影响，北京市网信办工作人员表示，将配合教育、文化执法等部门开展协同治理，保障未成年人健康成长环境。 保护未成年人上网安全 保护孩子们的精神家园 节目中报道的AI拼接怪物乱象经过有关部门整改后已明显减少，但仍需警惕新的类似现象的出现。管理层无法停止删除视频和清洁产品。它是也可以从源头上防止人工智能生成内容的野蛮生长，促进好的算法和好的内容。保护孩子的精神家园，就是保护他们健康成长的未来。不要让算法产生的奇怪幻想挤占了对精神发展实际上有用的空间。