AI会变，声音也会变……如何应对人工智能技术的

近期，不少直播间演员被人工智能变脸，冒充直播卖货的现象引起关注。然而，这种情况并非孤例。中国之声此前报道称，运动员、演员等名人深受人工智能换脸的困扰。事实上，人工智能换脸、语音克隆技术产生的灰链已经对个人权益和平台管理造成严重威胁。 尽管监管部门已出台相关规定，明确要求人工智能生成的内容必须进行标签化，平台也在采取措施加强管理，但仍存在不法分子通过不同方式逃避监管的情况。面对技术不断革新滥用的挑战，如何驾驭不安分的换脸和声音克隆的混乱，真正保护我们的“脸”和“声音”？ 前不久，有网友ens发现，一名演员同时出现在三个不同的直播间，穿着不同的衣服推销不同的产品，而且他的动作和行为与自己非常相似。后来发现，这三个直播间要么是录屏、剪图，要么是交易员窃取了演员之前的直播素材，通过深度合成，对图像进行了重塑，将声音嵌入直播间中进行模拟。 该演员团队的成员得知该假视频在互联网上流传后，继续举报该视频。他们每天举报 50 个虚假账户。一些虚假账户被从平台上删除，而另一些账户被删除后又以不同的形式重新出现。据介绍，一些商家只需要破坏一个形象，利用简单的工具就可以生成虚假内容，但收集证据和吸引的过程却需要付出很大的努力。 演员茶的工作人员m：他们想在凌晨三四点，大家都在休息的时候发布，以弥补时间上的差异。我们发送了一封律师函，包括他们的侵权活动、产品和相应的公司实体。这实际上只是其中的一部分。我们之前已经处理了一大批。 人工智能换脸的热潮不单单是对明星的干扰，对于普通人来说，其权利被进化的人工智能侵犯的情况也时有发生。上个月，山东济南的陈先生在社交平台上网上购买了两条裤子，但只收到一袋小苏打。商家称货物发错人，双方因此发生争执。没想到，这名交易员利用人工智能换脸，并用陈先生妻子的形象在社交媒体上发布了令人厌恶的视频。 陈先生：有争议。我跟他说了一句话，他就打电话给我，辱骂了我10多分钟。挂断后，我向平台举报了，因为我有录音。但后来他发布了一个AI换脸的视频，而换脸的人是我女朋友。 陈先生称，商家通过购物记录找到了他在社交平台上的账号。起初，他在陈先生发布的视频下发表恶意评论，随后注册账户盗用陈先生妻子的图片并发布不良视频。陈先生随后向平台投诉并向警方报案。违规帐户后来被封锁。 AI换脸技术的滥用不仅出现在民事侵犯肖像权案件中，甚至还触及刑事犯罪。此前，江苏省南京市宣武区人民法院审理了一起“会变形的人工智能”诈骗案。被告人付某利用195万余条公民个人信息，非法获取人脸盗刷登录受害人支付账户的AI软件并盗走银行卡进行消费。 南京市宣武区人民检察院助理检察官张海月告诉记者，付某利用换脸软件，利用“人脸识别”登录了23名受害人的金融支付账户。其中，非法更改5人支付密码和绑定手机号码，并使用绑定1人支付账户的银行卡购买两部手机，共计15996元。 南京市宣武区人民检察院助理检察官 张海跃：通过技术融合，AI生成动态视频，左右摇动、张开嘴。这样，一些金融视频就可以频繁地在用户登录时提供指导，突破金融支付平台的防线。 这段时间，FU尝试用AI换脸，打破不少国际泳联的“人脸识别”认证系统社交支付平台。 南京市宣武区人民检察院检察官徐佳：他一直在尝试，尝试了很多平台。不过其他平台可能有更严格的风控体系，这个平台可能存在一些漏洞，他最终成功了。 法院遂以侵犯公民个人信息罪、信用卡诈骗罪判处付有期徒刑四年零六个月，并要求其支付公益损害赔偿金15996元，并删除所有存储的公民个人信息。此外，针对本案暴露的某金融支付平台的技术风险问题，检察院立即出具了法律风险警示函。目前，金融支付平台已建成。 记者在不少社交平台上发现，AI人脸教程和服务很容易找到，也有博主上传了相关软件的使用技巧。在网上购物平台形式，此类软件或服务的价格较低。记者还注意到，监管部门已出台应对人工智能虚假广播的措施。中国网信办等部门联合发布《关于标注人工智能生成合成内容的建议》，明确要求视频生成肖像必须标注人工智能生成，否则将面临最高10万元的罚款。然而，许多博主将注释隐藏在视频或直播片段的角落里，或者以很小的字体显示，让消费者很难注意到。 中国政法大学刑事司法学院教授谢舒：人工智能改变、改造语音克隆技术产生的灰色产业链，是互联网上黑灰产品的常见形态。此类犯罪涉及整个链条，需要系统分析、综合判断。 谢中国政法大学刑事司法学院教授舒：其他这种行为的潮起潮落是现行刑法可以有效规制的。当前的主要挑战在于整理调查证据并准确识别各个环节的“主观知识”。我们要坚持全链条破解的思路，同时结合平台主体责任，对拒不履行网络安全管理义务的平台追究刑事责任。现有的刑事司法系统已经能够对此类技术的滥用产生强大的威慑力。关键在于通过严格执法、准确司法，将法律规定转化为实际治理效能。 目前，部分平台已采取专项措施应对AI假冒行为名人带货。不过，相关负责人平台ge表示，AI违规识别是整个行业的难题。早发、频繁变更账号等方式规避监管，今后将继续加强管理，严厉查处违规行为。 人工智能变脸之乱，在于迫切需要通过全链条、多方协同进行综合治理。对于内容发布者来说，法律底线是不可逾越的。无论是盗用明星形象推销商品，还是换脸报复普通消费者，其行为均构成违法甚至犯罪。每个技术使用者都应该清楚地认识到，技术绝不是违法行为的盾牌。 平台作为内容传播的关键环节，不能仅仅满足于“处理一个又一个案件”的被动应对，而必须将防线前移，利用技术手段致力于打击黑色和灰色产品。变脸人工智能治理是一场涉及技术、法律和道德的博弈。当出版商自律、平台负责、监管到位，形成合力治理的合力时，科技滥用的灰色产业链能否得到遏制，科技发展不偏离法治文明的轨道。 （中国之声、中央广播电视总台） 卫星导航和定位基站的管理措施将于明年生效。 《办法》明确，卫星导航定位站的建设、运营和维护必须按照“合理布局、合法备案、资源共享、保证安全”的原则，统一规划、统一标准、统一管理，遵守国家有关法律、法规、技术规范和标准。 2025-11-25 09:43 的农业农村部委托创建国家乡村振兴示范县，不断提高乡村建设水平，包括优化乡村规划布局、推动基础设施升级、促进公共服务普遍公平、探索实施乡村长效建设的创新方式。 2025-11-25 09:40 浙江：让机器人产业又快又快。机器人完成后空翻时，关节旋转误差必须控制在0.5度以内；医学植入人体的陶瓷关节表面粗糙度若超过0.1微米 2025-11-25 03:05 用数据安全促进人工智能健康发展 中共二十届四中全会指示“加快人工智能等数字智能技术创新，突破核心技术和基础技术与算力、算法、数据等的压迫和缩影》 2025-11-25 03:05 我国多颗卫星相继刷新了认识宇宙的新记录。11月24日，中国科学院国家空间科学中心召开空间科学先导工程最新亮点发布会，重点关注空间科学卫星任务在宇宙瞬变物体、宇宙线传播、太阳照射等领域取得的一系列重大科学突破。 2025-11-25 03:05 AI，孩子了解新世界的桥梁。随着人工智能技术的快速发展，各个领域正在发生深刻的变化，教育系统也正在经历着AI趋势。 2025-11-25 03:05 世界最大跨径四主缆悬索桥延吉长江大桥顺利合龙。延吉长江大桥是一座重要的桥梁鄂州花湖国际机场配套工程，是亚洲第一个专业货运机场，也是第二条穿越鄂黄河通道的重要组成部分。 2025-11-24 09:02 第二十二届中国国际半导体博览会开幕。 11月23日，由中国半导体行业协会、中国电子信息产业发展研究院主办的第二十二届中国国际半导体博览会在北京开幕。 2025-11-24 03:15 我国最长的石油管道已累计输送石油2亿多吨。从国家管网集团西部管道有限公司获悉，截至11月21日，全国最长的原油管道——西部原油管道已安全稳定运行18年，累计输送原油超过2亿吨。 2025-11-24 03:15 中南科普合作项目“空间科普空间”开放比兰重要作为中南合作推进科学教育的实践，中国科技馆与南非科博诺科学中心共同打造的“科学聆听空间”21日正式向公众开放。百余位嘉宾和观众共同见证了此次活动。 2025-11-24 03:15 北京大学启动科学智能领域顶尖人才培养新工程，为AI4S领域培养兼具理论素养和产业实施能力的复合型人才，同时助力企业技术创新和产业生态建设。 2025-11-24 03:15 熟悉科学，时刻关注2025年“十大”科普词汇。2025年“十大”科普词汇全面勾画了2025年我国科普传播的总体情况和主要方向，科学技术最新动态从科技与社会的维度来审视科学与社会、社会与文化。 2025-11-21 15:11 峰庆科技携手麒麟软件，加速AI+创新技术应用。峰庆科技与麒麟软件达成战略合作。双方将围绕创新人工智能技术、产品研发、市场拓展等方面开展深入合作，共同推动信息创新产业信息化的提升和发展。 2025-11-21 13:13 国家野生植物库辰山中心：种子库存已超亿粒走进国家重要野生植物种质资源库辰山中心冷库，零下20摄氏度的寒风扑面而来。一排排整齐的储藏容器里，放着各种已经进入“休眠”状态的野生植物种子。 2025-11-21 09:53 李抗雪：外御寒燥，内暖脾肾（节气养生）小雪季节，容易出现皮肤寒冷干燥、关节酸痛、咳嗽等不适，多因外感寒燥、津液失衡所致。 2025-11-21 09:52 关于心理健康，你需要知道这些误区目前，公众对精神疾病和心理治疗普遍存在哪些误解？在维权人心目中，本报记者采访了北京安定医院的多位专家。 2025-11-21 09:49 超导量子计算机“天眼287号”正式运行。 2023年11月，“天眼”体量计算云平台正式发布。截至目前，访问量已突破3700万。覆盖国内外60多个国家和地区的用户，实验任务数量已超过270万个。 2025-11-21 09:47 科学家研究发现发现了5.4亿年前的“化石宝库”。 20日，南京大学记者获悉，该校学术团队沉树忠侯金波博士等人在湖北省通山县记录了一座距今约5.4亿年前的埃迪卡拉化石宝库，并将其命名为“通山独特的埋藏化石宝库”。 2025-11-21 09:38 技术政策保驾护航，6G产业布局加速。 6G技术试验一期已完成，300多项关键技术储备已形成，资本加速拓展6G生态圈……虽然6G网络预计2030年开始部署，但我国6G产业布局正在加速，呈现出保驾护航、技术突破、资本活跃的特点。 2025-11-20 09:11 沙漠中建起巨型“充电宝”古山梁3GW/12.8GWH储能电站项目建成后，预计每年输送36亿千瓦时清洁能源电力 能源在发行时作为发电公司，在充电时被视为电力用户。电价与电网谷值的差价产生利润空间，吸引企业投资。 2025-11-20 09:11，吸引企业投资。 2025-11-20 09:11, 加载更多