“明星”在直播间带货？AI换脸恶搞他人？警惕“AI换脸”！ 全球动态

你看直播时，眼前见到的主播，真的就是这个人吗？原来是主播AI换脸变当红明星进行带货，只为增加卖点，助力卖货……近期，“AI换脸”的应用范围越来越广，但存在滥用之嫌，甚至有人利用AI换脸实施犯罪。如此以假乱真，让人防不胜防。“AI换脸”背后技术难不难？其法律边界在哪？普通人该如何防范？

利用“换脸” 博取流量

(资料图)

报道称，有网友点开多个电商直播间，发现正在卖货的竟然“迪丽热巴”“杨幂”等一些当红明星，背后其实是直播间的主播利用“AI换脸”，将自己的脸变得神似某位明星。

连日来，记者在抖音、快手、视频号等直播间浏览，暂未见到有“AI换脸”的直播，记者在小红书上搜索“AI换脸”，当前，有不少博主通过视频拆解AI换脸诈骗的案例，并提醒大家要注意网聊风险。

“AI换脸”技术陆续出现在大众视野，被不少网友拿来“玩梗”。今年初电视剧《狂飙》走红时，有网友把《狂飙》中的多位男主角样子“换到”了组合F4经典歌曲《流星花园》的MV中，戏称为“狂飙F4”。此外，有博主利用AI换脸，将特斯拉创始人马斯克的脸换到了不同背景的照片中，戏称“马斯克卖烧烤”“马斯克摆摊”……目的是为了吸引网友们的眼球，带来更多的流量。

目前AI换脸技术越来越成熟，呈现效果越来越逼真，从一开始的自娱自乐，至今在社会上众多领域使用。

深度科技研究院院长张孝荣表示，当前的AI换脸属于深度伪造的AI技术衍生应用。这种技术在影视和广告行业由来已久，现在有了AI技术，这种换脸软件开始大范围普及开来。现在，随着生成式AI的发展，使用难度进一步降低，新兴的APP和主流的视频软件都增加了类似功能，普及率大大提升，如此一来，线上的“李逵”和“李鬼”日益增多，而且更加真假难辨。

“随着深度伪造技术、扩散模型、生成对抗网络和AI大模型等AI技术的日渐成熟，伪造相关视频、音频、图像等技术门槛大幅降低。”天使投资人、资深人工智能专家郭涛表示，与此同时，大批的提供相关服务的第三方应用软件问世，应用门槛进一步降低，哪怕是“AI技术小白”几分钟也能轻松学会AI换脸等操作。

“直播换脸软件，有的收费有的免费，收费的从几百到几千上万元，成本各有不同。”张孝荣直言。

一旦发现换脸直播直接断播

AI换脸技术带来的风险令大众担忧。对于最近直播平台AI换脸诈骗的情况，抖音方面对全媒体记者表示，目前抖音直播不允许换脸直播，一旦发现平台会直接断播。平台目前也在跟进换脸带货的情况，除了断播、限制橱窗小黄车等带货功能，还会对侵权商家进行扣除信用分的处置。对断播后仍换脸直播的账户，将限制其直播权限。至于快手、视频号方面，则暂未回应。

据了解，5月9日《抖音关于人工智能生成内容的平台规范暨行业倡议》发布，要求创作者、主播、用户、商家、广告主等平台生态参与者，在抖音应用生成式人工智能技术时，遵循相关规范，其中包括发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实，特别是易混淆场景；虚拟人需在平台进行注册，虚拟人技术使用者需实名认证等。

今年4月，国家网信办发布《生成式人工智能服务管理办法（征求意见稿）》（以下简称《管理办法》），这也是国家首次针对生成式AI产业发布规范性政策。《管理办法》提及，利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。

像防范电信诈骗一样防范AI诈骗

“AI换脸恶搞他人、冒充明星带货，佯装‘熟人’实施诈骗等上述滥用行为已经涉嫌侵权，甚至是刑事诈骗。”广东南方福瑞德律师事务所律师梁宇麒接受记者采访时表示，。需要注意的是，《民法典》正式实施后，确定是否侵犯肖像权不再以使用是否以盈利为目的，也就是说，使用他人肖像前，须经过他人同意，否则将涉嫌构成侵权。

梁宇麒表示，广大民众须警惕，已有不法分子使用他人肖像冒充他人骗取财物。一般情形大概是不法分子利用视频电话打给被害人，利用AI换脸技术和声音合成技术冒充被害人朋友，诱骗被害人转款至其指定账号，整个诈骗过程只需短短十分钟。随着AI换脸技术的迭代更新，社会各界在关注AI换脸技术进步发展的同时，更应关注由此带来的风险和威胁，并须采取一系列的防范措施。

那么，该如何警惕和防范AI换脸技术带来的风险？他建议：首先，政府部门加强AI换脸技术监管力度，并制定相应的法律法规，明确软件开发商、平台运营商以及使用人的责任边界以及处罚标准。其次，软件开发商和平台运营商应自身加强对AI换脸技术的内部监管，设定审核机制，规范使用行为。最后，也是最重要的是，提高个人防范意识，大家在使用AI换脸软件或者小程序时，警惕被软件收集人脸、声音等个人敏感信息，如非必要，是可以拒绝收集的。以后面对关于涉及财物交易的事宜，不要只通过网络视频或语音确认，建议通过个人联系电话、单位联系电话、甚至是面对面等多渠道确认后，再进行交易。

张孝荣表示，要像防范电信诈骗一样防范AI诈骗。提高警惕，保护个人隐私资料，避免泄露；不要轻信各种APP传来的视频、电话或短信；建立财务信息防火墙，不要给陌生人转账。

关键词：