中国青少年研究中心2025年对全国7个省份8500多名未成年人的调查显示,超过60%的未成年人使用人工智能。超过20%的未成年人比较懒惰,“想依赖人工智能,不想自己思考”,超过20%的人倾向于“只和人工智能聊天,不想和真人说话”,超过20%的人因为过度使用人工智能而感到焦虑。这些数据表明,未成年人接触人工智能很容易导致影响独立思考、回避真实社交、产生依赖和成瘾等问题。
近年来,我国政府高度重视未成年人网络安全保护,采取了一系列积极举措,不断完善监管政策和体系。 2019年,国家网信办发布《互联网儿童个人信息保护规定》,重点保护儿童个人权益个人信息。新修订的未成年人保护法将于2021年6月1日正式实施,专设“网络保护”章节,进一步加强对未成年人网络内容的监管,强化个人信息保护,并制定了针对网络成瘾的专门规定。 2024年1月1日,我国第一部专门针对未成年人网络保护的综合性法律——《未成年人网络保护条例》正式实施。该规定旨在为未成年人提供更安全、更有益的网络空间,确保未成年人合法权益得到充分保护,促进未成年人身心健康成长。
一些人工智能工具探索次要保护模式。例如,今年8月26日,ByTedance旗下AI工具豆宝正式推出未成年人保护模式。家长输入密码后开启此模式,视频、浏览第三方w推荐使用豆宝以外的eb页面和智能代理对话,AI创作功能将默认关闭,而翻译、深度研究等功能仍可正常使用。
本台见习记者于天航
记者 张守坤
“通通通萨胡拉”“丽丽丽辣辣”……女士发现了。天津市河东区一名小学生家长李某发现,儿子最近经常念叨这句话,就像念咒语一样。经过进一步了解,李女士发现,看似毫无意义的音节实际上是许多生成的动画图像的名称。 “Tung Tung Tung Sahur”(发音与“Tong Tong Tung Sahur”相似)就是所谓的“火柴人”,“lirili”“larlla”(发音与“ilililalila”相同)是“仙人掌大象”,“traalalerotralala”(发音与“tralalangilealalalala”相同)还有很多由AI组合的图像,它们被统称为《外国山海经》或《AI课堂》孩子的《山海经》。
“这个孩子似乎‘着魔’了,嘴里时不时会说出这样的话,和他一起玩的孩子们也是如此。为什么这些不相干的元素强行拼凑在一起的奇怪图像,或者在儿童圈子里流行起来?”李女士说,“外国山海经典”不仅形状怪异,而且还包含很多暴力、血腥的文字和内容。“孩子们可能不明白其中的含义。但模仿和学习很容易对他们产生负面影响。 ”
《法治日报》记者发现,近期,“外国山海经典”、“山海经”等AI魔改(指利用AI技术对原创作品进行大幅或颠覆性改编)内容迅速在网络上走红,甚至渗透到年轻群体中。与此同时,含有血腥暴力、低俗内容的“邪教动画”也引起了社会的广泛关注。eback在AI技术的帮助下。部分AI内容还被制作成商品,在电商平台上销量不错。
“外国山海经”成为社交密码
今年暑假,山东的韩女士在家时,他6岁的小宇突然问他:“阿姨,还有一本中国山海经吗?” ”这个问题韩女士一时间没有说话——小宇的书包上挂着一个“耐克鞋鲨鱼”的挂件,房间里摆满了各种稀奇古怪的玩具。这个孩子第一次接触到“经典山海”的概念就是通过这些外国人和这些生成的产品。
韩女士告诉记者,小宇接触《外国山海经》的主要原因是该班的受欢迎。 “每个人都在谈论它。如果他想融入集体,他就只能主动去理解。韩女士曾试图向大家介绍真正的“经典””他给侄子讲了《山海经》,但小宇不感兴趣,甚至说:“山海经是外国的,中国的山海经不好看。”
在韩女士看来,短视频平台的兴起是孩子们沉迷其中的重要原因之一。小鱼平时喜欢的内容往往会被短视频平台推荐。受这些内容的影响,小宇表现出了明显的模仿行为。 “我经常模仿视频中奇怪图像的动作。我觉得它们很酷,我会时不时地给它们施上‘咒语’。”
汉娜女士表示,为了纠正孩子的识别,他的家长也尝试过限制小宇看短视频的时间,刻意引导他观看优质动画,并耐心讲解有害内容的危害性,但收效甚微。 “我理解他想要融入这个团体的愿望,但看到他受到这些内容的影响真的让我感到不安”。
李女士注意到,许多人工智能生成的照片和视频风格独特,包括“杀人”、“烧死”等暴力词汇,以及“持刀砍人”等危险动作。
记者尝试发现,像《外国山海经》这样的AI照片和视频的制作过程非常简单。在很多常见的AI视频网站中,用户只需要向AI发送一个角色的基本图像,然后通过文字描述自己想要生成的图像内容,发送指令即可获取对应的图像;然后将生成的图像作为关键帧,填充两个关键帧之间图像变化的细节,即可快速生成动态视频,还可以添加音效和背景音乐。
“文化视频”卷土重来
来自广东的梁先生有一个3岁的女儿。偶尔她也会让女儿玩手机。我的女儿仍然不识字,而且经常在短视频平台上观看视频或动画片。
然而,她最近发现,女儿经常被推入“Cult Video”风格的短视频平台。 “卡拉姆这些视频中有些是卡通或3D风格,对孩子们很有吸引力,但其中包含很多不舒服的画面。例如,梁先生说,视频中包含保肢、人物从高处坠落等血腥场景,甚至还有“挖出自己的眼球吃掉”等恐怖场景。
“有些内容可能会让成年人感到不舒服,尤其是 3 岁的孩子。 “我担心这类视频会对孩子产生负面影响。”梁先生说。为了屏蔽此类内容,她试图投诉该视频并点击“不喜欢”,但相关内容仍不断被推送给孩子。
来自浙江的于女士还发现,他的孩子看了《超级飞侠》、《奥特曼》等真实动画片后,平台自动ly 上弹出了一批色彩鲜艳但有益健康的衍生视频,包括《奥特曼怀孕了》、《小猪佩奇打骷髅》等暴力恶搞视频。
女士很担心。 “平台的审核很不充分,这种恶搞经典卡通人物的视频应该严格限制。”
一位曾在视频公司工作的采访者向记者透露,他的前公司制作了此类视频,其数百个视频账号不断推“邪教动画”。这类视频实际上是对经典动漫角色的再创作。人工智能技术的普及大大降低了生产门槛。利用人工智能生成的视频色彩丰富,对儿童更有吸引力。 “未成年人在平台流量中占比很大,这类视频不仅曝光率高,流量表现也不错,还能得到平台的支持。这类视频就是为了获得关注而创作的,内容陈词滥调严重:以动漫人物为外壳,填充爱情情节或暴力冲突、混战场面。因为孩子的判断力有限,很容易相信事情是真的。
采访者还强调,平台的算法有助于形成传播不良内容的闭环——“当孩子们观看时,平台会推送更多类似的内容。”
另一种“邪教视频”歪曲、污蔑中华伟大的传统文化。比如《红楼梦》中的人物进行“魔战”,《三国演义》中两军的对峙演变成“激光战”。经典作品的基本内涵被完全减掉。
有专家指出,AI魔法改动对经典造成的伤害早已超出了内容层面。它将“低俗好奇心”包装成“有趣的创新”,逐渐铲除邪教的健康土壤乌拉尔遗产和下一代的成长。还会在他们心里种下“经典可以随意解构”、“历史可以拿来开玩笑”的错误认识。
AI魔改释放异常产业链
有趣的是,记者发现,在社交平台和某短视频平台相关帖子的评论区,不少用户公开传授如何利用关键词利用AI生成大图,且部分内容涉及未成年人。例如,借助“×梦”等AI工具,虽然直接使用“未成年人”、“儿童”等关键词无法生成敏感图片,但如果替换成其他关键词,则可以免费生成含有性暗示等元素的儿童“二维”软色情图片,还包含“儿童怀孕”等淫秽内容。
此外,记者调查发现,AI魔法变身的部分内容存在较大争议。物化并逐渐“入侵”现实世界。
例如,在关键词“外国山海经”搜索电商平台时,很多图像被印在衣服上或作为盲盒、积木等产品出售。有些产品标签上直接标明“儿童礼品”、“儿童玩具”等字样。一些商家还表示,他们可以生产人工智能生成人物的定制图像。产品展示图片服装暴露、动作挑逗、无年龄差异
源自《外国山海经》的相关产品也会引发与未成年人的“隐性”比较。韩女士说,这种便宜的盲盒每个只卖一两块钱。低廉的价格引发了孩子们的收藏热潮。 “当孩子们聚集在一起玩耍时,如果有自己没有的东西,孩子就会产生心理落差,可能会被排斥。”
记者搜索“山海经”记者在多家网购平台上查看发现,此类盲盒产品销量较高。某店内一款包含24个盒子的盲盒公仔售价仅11.99元,付费人数已突破2万人。低廉的价格和巨大的销量进一步提升了其在校园的人气。
此外,一些知名游戏IP还推出了包含“国外山海经典”的盲盒和卡牌。有小学老师反映,学生经常向家长要钱,只买同学手里的“外国山海经典”——inbing卡已成为小学生的“社交货币”。据学校附近器材店店主介绍,此类卡的销量远远超过其他品类。
“我们希望平台和相关部门加强监管,排除AI修改的有害内容、允许技术传播也应该是家长的责任。””,一位家长在采访中说道。
驾驭“AI魔改”,平台和企业须承担“把关人”责任
□ 蔡海龙
最近,一些经典文学形象和动画主角的修改视频经常出现在网络平台上,在一些年轻人中引起了流量。这些视频中的一些人物形象怪诞、粗俗,名字也毫不掩饰;有的画面怪诞、恐怖,充满暴力、血腥元素;更令人担忧的是,一些内容很快被商家转化为线下产品,进入学校周边的装备店,成为热销产品,甚至演变为学生中的“社交货币”。
这些内容惊人、逻辑混乱的视频之所以受到青少年的欢迎,进而发展成为学生群体中流行的亚文化,并不是审美的降低,也不是被动的“中毒”,而是这是身心阶段特征、学业压力、媒体环境等多种因素综合作用的结果。
首先,青少年正处于自我认同的关键时期,往往伴随着对规则和权威的质疑。这类内容采用新颖、解构的方式来满足他们对抗低风险的心理需求。尤其是在学业竞争和成长纪律的双重压力下,这样的视频很容易成为他们宣泄情绪的出口。
其次,青少年渴望群体认同和归属感。分享主流视野之外的符号和“暗语”可以帮助他们快速形成亚文化圈,从而增强他们的群体归属感。这就是AI Magic进化为“社交货币”的内在逻辑。
AI修改视频的火爆也与AI的推荐算法密切相关米。人工改造的AI普遍具有速度快、刺激强、认知负荷低的特点,与青少年离散媒体消费习惯相符。青少年只需出于好奇点击一个陌生的视频,算法就会立即推送大量相似的内容,迅速将他们困在信息茧中,不断加深他们的沉浸感和依赖感。
从实际影响来看,AI修改内容对青少年的危害是多维度的。不仅造成审美退化、情感迟钝,还舔舐他们的道德观念和价值观,构成利用技术对未成年人的系统性侵犯,违背了“儿童利益最大化”的原则。具体来说,它侵犯了儿童以下三项基本权利:
首先,侵犯了儿童的发展权。根据《联合国儿童权利公约》d、儿童有权获得促进其全面发展的信息。与数字垃圾一样,人工智能修改的内容覆盖了儿童获取优质文化资源的机会,阻碍了儿童安全感、同理心和健康审美观的发展,直接阻碍了儿童的心智发展。
其次,侵犯了儿童的受保护权。这些魔改作品内容奇幻,充满暴力血腥场面,不仅对儿童造成直接的精神伤害,还隐藏着以流量经济和黑色产业链为核心的商业剥削。本质上,他们是利用孩子识别能力较弱的特点,谋取不义之财。
第三,儿童有参与的权利。儿童应有参与、继承和传承有益文化的权利,并在安全的数字环境中学习和成长。人工智能修改的内容使他们疏远了追求文化的参与大量的“网络垃圾”(人工智能产生的低质量产品)污染了他们的学习和娱乐空间,限制了他们正常、有用的数字生活。
AI魔幻变革的现象是AIGC(人工生成内容)浪潮下未成年人权益保护的重大挑战。为了有效治理这一现象,网络平台及关联企业必须承担起“把关人”的法律责任。
网络平台是AI修改内容传播和变现的主要场所,必须承担起“防火墙”的责任。平台必须履行好算法和推荐的责任,避免向未成年人推送专门针对低俗暴力内容的流量,并确保算法遵循“儿童利益最大化”的原则;要落实清理内容和模式的责任,积极推进利用技术手段清理现有“网络垃圾”,从源头上严格控制AIGC产生的不良信息;应加强“青春模式”内容清理功能,确保池池纯净、适龄,彻底屏蔽AI修改过的mga视频;还应承担起保护商业链条的责任,禁止相关账号使用此类内容挂载产品或携带商品,同时屏蔽关键词并清理非法交易者。只有这样,未成年人的网络安全和身心健康才能得到保障。
相关企业作为内容和产品的来源,必须承担遵守法律和自律的责任。在制造、设计过程中建立儿童保护机制,积极拒绝异类、庸俗、侵权产品的制造、设计;线下销售过程中,进货验货环节必须履行义务,防止有害外围产品进入学校市场;在专业网络销售的情况下,平台必须落实自理责任,依法及时下架违法产品,否则将面临处罚。
解决人工智能魔幻变革问题,亟待构建政府监管、企业责任、家庭监管、学校教育“四位一体”的社会共治体系。政府部门必须发挥监管者和执法者的作用。网信部门统筹网络防护,缩小平台职责;市场监管部门负责线上线下有害周边产业链清理;新闻出版和广播电视通过屏蔽技术的结合,促进优质内容的生产和传播。作为菲第一负责人、企业和平台要从被动应对转向主动防御,利用技术手段清理不当内容,切断商业变现链条,不断优化未成年人模式,为未成年人提供纯净的网络环境。家庭是保护未成年人的第一道防线。家长要切实履行照护职责,通过包容、内容筛选、工具高效运用,培养孩子的批判性思维和审美能力。学校作为媒介素养教育的主阵地,应开设网络素养相关课程,并在家校合作中发挥桥梁作用。只有政府、企业、家庭、学校齐心协力,相互配合,各司其责,才能真正为未成年人编织一张严密的保护网,彻底排除人工智能变魔等“精神毒品”。未成年人成长的环境。
(作者:于天行 首都师范大学教育政策与法律研究所副所长)
技术政策保驾护航,6G产业布局正在加速。 6G第一阶段技术测试已完成,300多项关键技术储备已形成,资本加速拓展6G生态圈……虽然6G网络预计2030年开始部署,但政策保驾护航、技术研究、资本活跃的我国6G产业布局哈萨帕比利斯。 2025-11-20 09:11 沙漠中建起巨型“充电宝”古山梁3GW/12.8GWH储能电站项目建成后,预计每年可向电网输送清洁能源电力36亿千瓦时。 “独立新能源储能电站发电的时候,就是发电公司,充电的时候,就算是电力公司”用户。电网的峰谷电差产生利润空间,吸引企业投资。故乡唐山。为此,我在大学学习了机械制造与设计,毕业后就投身于铁路试验设备领域。 2025-11-20 04:25 【我对ika-15五年计划的思考和希望】让火箭的“心脏”更强 人们常说,发动机是火箭的“心脏”。我从事的工作是液体火箭发动机推力燃烧系统高精度产品的生产加工,所以大家都叫我“火箭心钻工”。 2025-11-20 04:25
“西电东送”能源战略实施取得丰硕成果——四川外送电量已突破1.9万亿千瓦时。四川全面对外送电已突破1.9万亿千瓦时。这个规模相当于每年的电江苏、浙江、安徽三省城市消费情况。这标志着四川实施“西电东送”能源战略取得丰硕成果。 2025-11-20 04:25 国内某重型设备再次传来好消息。中微子探测进入“中国精准”时代。大国重装再次传来好消息!建成并运行仅两个月后,江门中微子实验装置(JUNO)就取得了第一个物理成果——太阳中微子振荡参数的测量。结果比之前实验的最佳精度高出1.5至1.8倍。 2025-11-20 04:35 我国卫星导航定位基站将实行“三统一”。为促进卫星导航定位产业顺利发展,维护国家地理信息安全,我国将实行统一规划、统一部署。制定标准,统一管理卫星导航定位基站。针对当前基站重复建设、数据安全隐患等重大问题,《办法》规定,自然资源部会同有关部门制定全国建站建设规划。 2025-11-19 09:52 首台配备冷却塔的“华龙一号”核电机组全面开工建设。 18日,我国首台配备冷却塔的核电机组——中广核山东招远核电项目1号机组顺利完成核岛首次混凝土浇筑,标志着该工程一期工程全面启动。 2025-11-19 09:51
我国已成为火电新增装机主力军。 2020-2024年全球光热发电年复合增长率装机容量为4.24%,同期我国增速达到11.7%,高于全球水平;技术装备国产化率超过95%,发出行业加速发展的强烈信号。 2025-11-19 05:35 构建体现新生产力发展的科学人口生态系统。现代技术和科普是实现现代化发展的两翼。科学普及与现代技术“同样重要”。 2025-11-19 05:55 《国际科技创新中心指数2025发布》——三大国际科技创新中心继续领跑。近日,清华大学产业发展与环境治理研究中心与Nature Research Intelligence联合编制的《国际科技创新中心指数2025》报告正式发布释放。 2025-11-19 05:55 强健科学人口翅膀,积聚创新力量——“十四五”科学科普工作实现跨越式发展。新疆小朋友演示磁悬浮、机器人互动、矿物标本展示等引人关注;张掖科技工作者向大家展示了经典的“火焰掌”科学实验;上海的科学家们走过科技节红地毯,赢得了公众的阵阵掌声……这些生动的场景共同勾画出“十四五”期间我国科普事业的成功进展。 2025-11-19 05:55
人工智能时代,哪些能力不能消失?现在,当你学习时遇到问题时,你可以询问人工智能,做作业时,你也可以使用人工智能来帮助查询信息。正如这位同学所说,生成人工智能社会智能正在改变以知识积累和传授为中心的传统教学模式。 2025-11-18 10:28 市场规模预计超7600亿元——我国节水产业蓬勃发展。 11月17日,在水利部“贯彻落实党的二十届四中全会精神,推动节水产业高质量发展”新闻发布会上,水利部副部长陈敏介绍,当前,我国节水产业呈现蓬勃发展的良好时刻。 2025-11-18 04:20 新疆多个科技创新平台上线。新疆维吾尔自治区科技创新大会17日在乌鲁木齐召开。会上,干旱区生态安全与可持续发展国家重点实验室、丝路水务局昆仑智能装备实验室实验室2025-11-18 04:20 用科学分析激发高校人才团队创新活力。中共二十届四中全会审议通过的《中共中央关于制定国民经济和社会发展第十五个五年规划的建议》
我国已完成6G技术第一阶段测试。近日,2025年6G发展大会在北京经济技术开发区召开。 2025-11-18 04:20 我国研制的微观世界“超级相机”顺利验收。这种高能非弹性光谱仪的独特之处在于,它利用中子的随机性和高穿透性特性来直接探测物质内部的微观运动。 2025-11-17 08:56 建设天地一体化建网保障国家公园“智慧”建立健全国家公园监测网络系统,是我国生态建设领域的重要实践,也是人与自然和谐相处的现代理念的具体体现。 2025-11-17 04:30 用科研保护生物多样性 浙江清凉峰国家级自然保护区是我国重要的生物多样性聚集地之一,也是长三角地区重要的物种基因库。 2025-11-17 04:30
加载更多 Copyright © 2024-2026 51吃瓜网每日大赛-吃瓜网51官网版-51今日大瓜每日大赛 版权所有