每日更新

小心此类病毒视频。 “AI拼接怪物”正在带领孩子们误入歧途

今年以来,人工智能短视频在各大平台迅速走红,一些被称为“海外海洋山地经典”的视频在矿工中掀起热潮。有些孩子记住了视频中怪物的名字。
“动漫人物”有很多种类型
全部由AI拼接生成
在这些视频中,孩子们重复着笨拙且毫无意义的音节。其实这不是废话,而是网上各种动漫人物的名字。让我们仔细看看这些“动画人物”。有简笔画。一头有着仙人掌身体和拖鞋的大象。一只有着轮胎身体的青蛙。鳄鱼与军用飞机的融合。它还包括违背常理的奇怪图像,例如长着猩猩头的香蕉和长着猫头的鱼。这些图像并非来自传统动画或经典IP,而是由aAI ion生成。
北京市网络数据技术部工作人员 王玉凯网信局:其实最大的受众是未成年人,特别是中小学生和一些幼儿。他们很容易被此类视频内容中叙事和夸张的怪物图像和元素所吸引。
很受孩子们的欢迎。
相关视频的点赞数量惊人。
那么这部所谓的“外国山海经典”在孩子们中的受欢迎程度如何呢?记者搜索各短视频平台发现,带有“海外山海经典”“山海AI经典”等标签的视频很容易获得数十万甚至数百万的点赞和重复转发。评论区,不少家长感叹:“连句子都记不住,三海经典我都记不住。”“孩子每天都能说一长串。”“没必要背。”读得越多,记住的就越多。”有网友贴出手写的“角色名单”,上面写着名字这些人工智能角色被仔细地复制在纸上。
关注视频的来源
为何让孩子着迷?
通过观看这些视频,成年人可以理解这些荒谬的人工智能动画图像的含义。原来他们听不懂,但是孩子们却很着迷。那么这些人工智能生成的视频从哪里来呢?为什么它们在短短几个月内就如此受到未成年人的欢迎?
北京市网信局网络数据技术处工作人员 王玉凯:《国外山海经》诞生于2000年代初2025年国外社交平台上的一类被称为“烂脑筋”的视频。这些视频的本质是利用人工智能技术产生非理性行为。同时,也有一些神奇的洗脑视频。看着它让人感觉你的大脑已经退化了,这也是为什么它在国外被称为“脑腐梗”。
移居国外“脑腐V想法”
为二次创作和传播提供了契机。
这些都是国外社交平台上流行的“脑腐视频”。它使用意大利语等外语和神奇的音效,利用AI图像生成工具将动物、物体和人类的特征随机拼接在一起,创造出一系列荒诞、奇怪的图像。
今年年初,这些视频被网友转发到国内短视频平台,立即引发大量作品衍生和扩散。在这本图鉴中,有人创造了人物,有人创造了新的故事背景以及动画图像之间的联系,吸引了很多未成年人的关注。
随后,这些视频被网友称为“海外山海经典”或“AI山海经典”,并迅速在未成年人中流行。其实,它与中国古代经典《山海经》没有任何关系。从线上传播到线下
周边玩具也很畅销。
而且,它的传播不再局限于互联网,而是从线上到线下。
记者调查发现,一些传统网购平台在搜索“山海外国经典”时,会自动关联一系列相关词语。除了以AI动漫人物为主题的玩具、手办外,还有文具、漫画、生活用品等,很多商品页面都写着“销量突破10万件”,销量火爆。
记者走访学校附近的文具店、超市和玩具店时发现,也有与“外国山海经典”相关的玩具在售。
北京市网信局网络数据技术处工作人员 王友凯:很多小学生把“海外海洋山地经典”作为学校的社交货币。孩子们甚至为自己能够比一比谁记住的《海外山海经》中的怪物图片和名字最多。也有家长反映,孩子做作业时模仿《山海经》里的怪物,或者发出奇怪的声音。事实上,它对未成年人的学习和生活产生了负面影响。
北京市网信办工作人员发现,一些在网络平台流传的与《海外海山经典》相关的短视频,不仅会耽误学习、分散注意力,还会危害未成年人的身心健康。
北京市网信局网络数据技术处工作人员 王友凯:像《山海经》一样,含有大逃杀、打斗甚至软色情等元素和题材,很容易引起未成年人的抗议。
含有软色情和暴力色情内容。
容易忽悠未成年人
这些视频中充斥着暴力场面通常使用人工智能生成的动画图像进行描绘。一个巨大的怪物,在城市街道上凶猛地追逐人类。这些攻击性和破坏性的图像不仅夸大了暴力,而且还由于人物的卡通性而弱化了伤害感。未成年人很容易将其误解为“有趣”或“酷”,从而导致模仿行为。
还令人担忧的是,一些利用这些图像开发的小游戏含有软色情内容,损害未成年人的身心健康。
在这些视频的评论区,不少家长反映,自己的孩子对所谓的“山海经典外国片”非常着迷。有些孩子不知道中国有《山海经》,先入为主地认为《山海经》是外国的。对此,中国政法大学互联网法研究所所长李怀生表示:现在的孩子接触互联网的年龄越来越小,许多人认为内容的危害如此之大,是在欺骗他们,让他们无法真正了解传统文化。地址。
技术门槛低
算法推荐“宣扬”不当内容
记者调查发现,很多家长其实都意识到了此类短视频的问题,并且正在想尽一切办法阻止孩子接触短视频。但令他们困惑的是,为什么这些内容在互联网上传播得如此之快。为此,我们咨询了互联网和人工智能领域的专家。事实证明,技术门槛的降低和算法推荐推动了这一趋势。
如今,人工智能、大数据等新技术、新应用不断涌现,对网络生态治理提出新挑战。
这两个动画视频是研究人员随机生成的有趣的是,使用市场上最常见的两种大型模型进行人工亮度。只需输入几个描述人物或场景的关键词,只需几十秒即可生成所述动画内容。
技术的便利也伴随着责任和限制。
人工智能、大数据等新技术的快速发展给我们的日常生活带来了前所未有的便利。通过减少内容创作的障碍,普通大众的表达和创作的可能性将会扩大。然而,技术的便利也伴随着责任和限制。
法律专家指出,根据《互联网信息内容生态治理规定》相关规定,该法鼓励网络信息内容创作者创作、复制、发布符合社会主义基本价值观、积极健康的内容。,有利于公众特别是未成年人的发展。然而,目前人工智能生成的视频内容荒诞、逻辑混乱、缺乏文化意义,没有教育或审美价值。
此类视频很受未成年人欢迎。具有高点击率和完成率的平台访问在算法推荐的支持下实现“分裂”外展。
“我越看它,我就越推动它。我越看它,我就越推动它。”
算法推荐形成一个循环。
人工智能研究人员指出,像《海外山海经》这样的视频,利用夸张、新颖、震撼的画面来吸引未成年人的注意力。只要孩子出于好奇而点击、寻找几秒钟,算法就会很快表现出兴趣,并不断推送相似的内容,形成“越看越推、越推越看”的循环。
一些家长意识到此类内容对孩子造成的负面影响,并主动举报或屏蔽。但即便如此,人工智能研究人员指出,算法可以继续根据用户行为和类似内容特征来增强此类视频。
北京致远人工智能研究院高级行业研究员金洪波:如果平台处理举报行为的话,会是一个人工审核的过程。人工决策过程需要几分钟、几小时甚至几天的时间跨度,而算法推送是毫秒级别的实时推送,因此人工审核或人工干预的速度与算法投放速度存在较大的时间差。
法律是明确的
禁止传播有害未成年人成长的内容
那么为什么人工智能生成的动画视频能够在短视频平台上广泛传播呢?我国法律对传播内容有相关规定吗?在线平台应如何满足其监管要求监管责任?
中国政法大学互联网法研究所所长李怀生:作品本身符合社会主义核心价值观吗?是否存在违法犯罪行为?有煽动吗?对未成年人的成长有没有危害? 《互联网信息内容生态治理条例》也对哪些类型的信息可以在网络空间传播进行了相关规定,也有明确的禁止性规定。有《中华人民共和国未成年人保护法》和《未成年人网络保护条例》,仍然非常严格。它有明确而具体的规则。
《互联网信息内容生态治理条例》第六条规定,网络信息内容生产者不得制作、复制、发布煽动淫秽、色情、赌博、暴力、凶杀、恐怖等违法信息。或犯罪。
《互联网未成年人保护条例》第二十二条规定,任何组织和个人不得在网上制作、复制、发布、传播含有淫秽、色情、暴力、邪教、迷信、赌博、煽动自残、自杀、恐怖主义、分裂主义、极端主义以及其他危害未成年人身心健康内容的信息。
法律专家指出,除了对网络内容本身有明确的法律规定外,中国法律对平台的责任和义务也有严格的要求。
中国政法大学互联网法研究所所长 李怀生:对于网络平台来说,他们实际上负有首要责任,第一责任。平台要有效主动监测信息,主动屏蔽可能损害未成年人身心健康的信息。信息对严重违背社会主义基本价值观、违法犯罪或者淫秽、色情、暴力、凶杀等内容的离子平台,必须立即采取措施,阻止信息进一步传播。平台发现涉嫌违法违规行为的,应当向有关主管部门举报。
打造适合未成年人的系统算法推荐
北京市网信局工作人员指出,我国相关部门也对算法推荐制定了明确的规定,以限制此类恶意短视频的传播。
北京网信局网络数据技术处工作人员 王友凯:国家网信办早在2021年就发布了《互联网信息服务算法推荐管理规定》,要求算法推荐服务提供者坚持主导价值观和文化导向,同时过度推荐算法推荐服务。建立诱导用户成瘾的算法推荐逻辑。我明确要求你不要这样做。做。同时,需要提供数据保护模型相关要求和规范,并创建适合未成年人的算法推荐机制。
专家表示,推广大规模人工智能模型和算法技术以满足主流价值观是当前人工智能研究的一个重要方向。
政府相关的混乱
关键平台职责需要整合
法律专家认为,应对“海外山海经”这样的干扰,不仅要提高算法技术的成熟度,还要强化平台自身的责任。平台作为内容分发的中心枢纽,必须主动履行审核、过滤、删除任务,鼓励推荐健康、有用、优质的内容。
国际研究总监中国政法大学网络法李怀生:我们需要一个平台来顺应社会主导方向,进行主动、有效、及时的人工干预措施。我们要警惕一切有害未成年人身心健康、不能促进未成年人全面发展的所谓网络作品和网络现象。此类现象需要采取综合、综合的治理措施。
2025年4月,国家网信办发出通知,在全国开展为期三个月的“清理审查滥用人工智能技术”专项行动。拟整改的七类未解决问题包括“存在诱发未成年人沉迷的人工智能应用、未成年人模式内容影响未成年人身心健康”等。
近日,北京市网信办督促指导网站平台地方网站通过加强算法修改、开展违法内容查处和清理等措施,坚决制止因滥用人工智能技术造成的网络乱象,有效保护未成年人网络空间安全。
今年9月1日起,《人工智能生成合成内容标识办法》将正式实施,明确所有人工智能生成的文字、照片、视频等内容必须“明确标识”,并带有人工智能生成标识。
北京市网信办工作人员在接受记者采访时也表示,网络平台用户若遇到含有不良内容的短视频,可及时举报,共同参与网络环境治理,筑牢防护屏障。
王志辉 北京市网信局网络信息服务管理部职员离子局:指导在网站平台开设举报专区。网民如发现违法或有害信息,可按照网站平台举报指引进行举报。另一方面,如果您向网信部门举报,我们会立即受理举报并作出决定。
针对“西洋山海画”等视频及其线下衍生周边产品对未成年人造成的不良影响,北京市网信局相关负责人表示,将会同教育文化执法部门等部门开展协同治理,保障未成年人健康成长环境。
确保未成年人上网安全
保护孩子们的心灵
节目中报道的AI拼接怪物造成的混乱,经过相关部门的整改,已明显减少,但仍需继续警惕新类似现象的出现。ar现象。治理不仅仅是删除视频或清理产品。我们还必须从源头上阻止人工智能生成内容的野蛮扩散,并鼓励更好的算法和引人入胜的内容。保护孩子的心脏力量,就是保护他们未来的健康成长。不要让算法产生的奇怪幻想掩盖了真正有益于你的精神成长的领域。 (央视新闻客户端)【编辑:梁毅】
努宏贤儿子马定盛缅怀母亲:戏比天大,永远不会意识到自己的晚年
日本孤儿常松胜:以武术为桥梁回馈中国
这辈子冬天一定要去呼伦贝尔。
情感消费驱动1万亿美元蓝海
2028年有“五月闰”,端午节有两个吗?
2000多年前希腊大都会为何出现在云南?
中央艺术大学教师市场“Manju Sa”les》:人生无极限,烟花也绚烂
香港的“活动经济”势头强劲,吸引人气、财富和魅力
中国的饭碗应该以中国的谷物为主。
海南工业经济新观察:充分释放数据要素价值
致新、最好! 5 首次勾勒高质量发展新形象
大桥跨越两省 浙江、上海开启绿色共治创新实践
阿尔泰山:揭开我在北疆雪国的“冬天童话”
肖静妮:想让更多人知道中国舞的美
购买火车票时牢记这四点,“手拉手”坐火车。
日本孤儿中井丽子:为纪念中国养父母选择日本名字
大金安山鹿铃声响起,鄂温克驯鹿守护着“森林之舟”。
自动续订会员资格混乱:O一键快捷、“九来九去”取消

你可能也会喜欢...

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注