近日，演员@温峥嵘 自曝遭AI盗播，有超过30个直播间同时盗用其AI合成形象直播带货。这些“数字分身”身着不同服装，话术高度雷同。她本人进入假直播间质问：“你是温峥嵘，那我是谁？”，竟被对方秒速拉黑。
近两年，AI深度合成名人、换脸换声的视频层出不穷、屡禁不止。对此，专家表示，治理的核心在于全面落实内容标识制度，需严格区分AI技术的合法应用与非法滥用。
生成式人工智能的多模态能力，可以让用户轻易给视频中的人物换脸换声，甚至直接生成完全虚构的视频，给不法分子带来可乘之机。近期就发生了多起AI换脸换声，生成虚假广告的案件。比如，有的伪造奥运冠军推荐土鸡蛋，还有的伪造医生形象推销保健品，严重误导公众。
业内人士告诉记者，随着AI换声换脸技术的越来越成熟，已经足以达到以假乱真的地步。分辨一段视频或者声音是否是经过深度合成，最好的办法还是通过AI去识别。即用AI去识别AI。
