深度伪造技术飞速发展的同时,也伴随着严重的社会和法律问题。一名乌克兰网红就控诉,自己的脸孔被不法分子复制成数码虚拟人,而虚假数码人在中国竟然拥有14万粉丝,远远超过她本人的关注量。

乌克兰网红奥尔加发现自己的数码虚拟人在中国社交媒体变成了俄罗斯人娜塔莎,不仅发表着煽动性的政治言论,甚至成了网卖博主。

奥尔嘉说:“我看到这就像我的脸在说华语,背景是克里姆林宫和莫斯科,我在谈论俄罗斯和中国有多么伟大。我的数码人还在为不同的俄罗斯产品做广告。”

受访专家表示,生成数码人的技术相当普遍,生成时间可能只要30分钟。

魔珐科技创办人柴金祥说:“那当然你把语言换一换,唯一要改的就是唇形,其实这里面唯一的人工智能技术就是唇形,那当一个普通人如果对唇形,那现在的唇形技术可以做到很好,所以普通人是感觉不出来的。”

奥尔加事件暴露了深伪技术带来的法律和道德风险,大部分民众也很难辨别这些内容的真伪。

北京大学法学院副教授戴昕​说:“随着创造信息、创建内容和传播内容的工具越来越强大,基本上每时每刻都在出现。法律不得不以追赶者的姿态与之抗衡。”

专家说各国加强对抗虚假网络内容的法律,但在人工智能的快速发展下,立法和执法只能不断追赶。