(央视财经《经济信息联播》)快速进化的AI生成技术,让生成假照片、假图像,甚至视频换脸都更加容易,且更加真假难辨。尤其是AI合成的假视频甚至冒充名医、名人进行虚假宣传,对公众实施诈骗。中国工程院院士、天津中医药大学名誉校长张伯礼也成了受害者之一。
不久前,网络中出现了这样一个视频,视频中张伯礼院士正在为某美白护肤品进行宣传。
中国工程院院士 天津中医药大学名誉校长 张伯礼:这些内容全是假的。我从来没用过这个护肤品,我也没做过这方面的宣传,更没研究过,所以里边完全是编造的。
实际上,这是一个AI制作的视频,视频中使用张院士的形象和声音,从而达到以假乱真的效果。张院士介绍,像这样涉及他形象和声音的假视频在网络上传播的至少还有十几条。《中华人民共和国民法典》规定,自然人享有肖像、声音等权益,任何组织或个人利用信息技术伪造都是侵权行为。为此,天津中医药大学紧急给网信部门发函,申请对涉嫌侵犯张伯礼院士肖像权及姓名权的相关视频和公众号进行管控处理。
中国工程院院士 天津中医药大学名誉校长 张伯礼:非常气愤,我觉得它(假视频)对我的影响还是第二位的。我觉得更可怕的是这些东西它误导消费者,对老百姓造成的影响,你是又花了钱,有的时候还是买了假药,影响老百姓的健康,同时也违反国家的法律,破坏市场秩序。当然我们专家的形象受到玷污,我们确实也很气愤,但是又很无奈。
除了张伯礼院士之外,一些商家通过AI换脸、合成人声等手段,将一些名医、名人、企业家的面容与声音进行移花接木,有的用于直播带货、有的用于推广营销产品、有的被制作成了搞笑视频。
AI生成技术原本是一件好事,然而被别有用心的人利用后,却成了编造虚假信息的工具。专家呼吁,AI伪造是新兴技术发展的“拦路虎”,必须从严惩治。
专家指出, AI换脸拟声,不当滥用,成为违法侵权行为的重灾区,易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为,不利于构建“以人为本、智能向善”的人工智能发展生态。