近期，人工智能在多个直播间对演员进行换脸，并在直播过程中假装利用图像推销产品的现象引发关注。然而，这种情况并非特例。中国之声此前报道称，运动员、演员等名人对人工智能改变面孔表示严重担忧。事实上，AI换脸技术、语音克隆技术形成的灰色产业链，对个人权益和平台监管构成严重威胁。 尽管监管部门已出台相关规定明确要求对人工智能生成内容进行标注，平台也采取措施加强管控，但仍有不法分子通过各种方式逃避监管。面对不断创新的技术滥用挑战，我们如何控制人工智能换脸、克隆声音的无底混乱，真正保护我们的“脸”和“声音”？ 最近的近日，有网友发现，一名演员同时出现在三个不同的直播间，穿着不同的衣服推销不同的产品，而且动作和神态与自己十分相似。后来确定，这三个直播间都是录音和截屏，或者是提供商窃取了演员之前的直播素材，通过精心合成将镜头重塑，并在直播间嵌入音频进行模拟。 演员团队成员发现网络上流传该假视频后，继续举报。他们一天之内举报了 50 个虚假账户。虽然一些虚假账户已从平台上删除，但其他账户很快以其他方式重新浮出水面。报告表明，一些公司可能只是拦截图像并使用简单的工具来生成虚假内容，但收集和质疑证据的过程需要付出巨大的努力。 演职人员：我喜欢po凌晨三四点左右，大家休息一下，以创造时差。我们发送一封律师函，其中包含侵权活动、产品和相应的公司实体。其实，这只是一小部分。我们之前已经加工过大批量的产品。围绕人工智能换脸的困惑不仅让名人担忧，也让普通人担心，他们的权利有时会因人工智能换脸而受到侵犯。山东省济南市居民陈女士上个月在社交平台上购买了两条裤子，但只收到一袋小苏打。商家声称商品发错人，双方发生争执。没想到，店主利用人工智能变脸，在社交媒体上发布了一段带有陈先生妻子照片的淫秽视频。 陈先生：有争议。如果我对他说了些什么，他就会给我回电话并侮辱我10多分钟。悬挂后电话里有录音，所以我向家里报告了此事。但随后他发布了一段AI换脸的视频，换脸的是我爱人的。 陈先生说，商家通过他的购买记录找到了他在社交平台上的账户。他先是对陈先生发布的视频进行恶意评论，然后注册账户，盗用陈先生妻子的照片，发布淫秽视频。陈女士随后在平台上投诉并报了警。最后，较低的账户原告被封锁。 基于人工智能的面部修改技术的滥用不仅限于侵犯肖像权的民事诉讼，而且还延伸到刑事犯罪。此前，江苏省南京市宣武区人民法院审理了一起“AI换脸”诈骗案。被告人付某利用非法获取的公民个人信息195万余条以及人工智能换脸软件连接互联网。达玛窃取人们的支付账户并窃取银行卡进行购物。 南京市玄武区人民检察院副检察官张海月告诉记者，付某利用人工智能换脸软件，通过“人脸识别”登录金融平台上23名受害人的支付账户。其中，5人的支付密码及关联手机号码被盗改，并使用1人与其支付账户关联的现金卡购买了两部手机，共计15996元。 南京市宣武区人民检察院副检察官 张海跃：AI融合技术，生成人摇头、张嘴的动态视频。因此，一些金融视频往往会在用户登录金融支付平台时提供指导。突破防线。 在此期间，付先生使用AI进行了一次换脸。试图破解多家金融支付平台的“人脸识别”认证系统。 南京宣武区人民检察院检察官徐佳：继续测试了很多平台，但是其他平台有比较严格的风险体系，这个平台可能有一些漏洞，最后成功了。 法院随后以侵犯他人个人信息罪、信用卡诈骗罪判处傅某有期徒刑四年零六个月，并责令其支付社会福利金15996元，并删除所有存储的他人个人信息。此外，针对本案暴露的部分金融支付平台的技术风险问题，检方迅速下发法律风险警示文件。金融支付平台的改造已经完成。 记者发现，在多个社交平台上很容易搜索到改变人工智能面貌的教程和服务，其中一些博主正在上传有关如何使用相关软件的技巧。在线购物平台为此类软件和服务提供较低的价格。记者还注意到，监管机构已出台措施打击虚假人工智能直播。国家网信办等部门联合发布《人工智能合成内容展示办法》，明确要求人工智能生成的人像视频必须标注人工智能生成，否则面临最高10万元的罚款。然而，许多博主将注释隐藏在视频或直播片段的角落或以很小的字体显示，使消费者难以注意到。 中国政法大学刑事司法学院教授谢修先生：基于人工智能的面部修改技术和语音克隆技术形成的灰色产业链是互联网黑灰色产品的典型形式。此类犯罪涉及整个链条n 并且需要系统思考和综合判断。 中国政法大学刑事司法学院教授谢修先生：现行刑法可以对事前行为和事后行为进行有效规制。现在的主要挑战是在调查中建立证据；它包括对各个环节“主观知识”的精确识别。要坚持全链条打击的思路，强化平台主体责任，对拒不履行网络安全管理义务的平台追究刑事责任。现有的刑法体系可以对此类技术的滥用提供强有力的威慑。关键是要通过严格适用法律、精准司法，将法律规定转化为现实治理效果。 一些平台正在采取特别措施打击基于人工智能的假冒名人走私行为。不过，平台官方表示识别人工智能违规行为是一个全行业的问题。黑灰产品通过凌晨发帖、频繁切换账号等措施规范行业。我们将继续加强治理，严肃查处违法行为，避免监督。 人工智能变革带来的颠覆迫切需要全链条的综合管理和多方利益相关者的协调。对于内容发布者来说，不能超出合法利益。无论是盗用明星形象推销产品，还是通过换脸报复普通消费者，其行为均构成违法行为，甚至犯罪。所有技术用户都应该清楚，技术永远不是防止违规的盾牌。 平台作为内容传播的重要环节，不能仅仅满足于“应对一个又一个事件”的被动应对，而应该利用科技手段推进防线SE 并打击黑色和灰色产品。随着人工智能的面貌发生变化，管理混乱是一场涉及技术、法律和道德的游戏。只有出版者有节制、平台有责任、有监督，形成集体治理力量，才能遏制科技滥用的灰色产业链，确保科技进步不偏离法治文明的轨道。