AI造假太逼真!王劲松肖像被盗用推理财,李连杰、姚明等多位名人也中招

“大家好,我是演员王劲松。RWA赛道,会成为未来十年区块链领域最大的增量市场……”这段听起来、看起来都和王劲松本人别无二致的视频,最近在网络上悄悄流传,视频最后,“王劲松”还热情呼吁大家,一起抓住“下一轮财富崛起的机会”。可谁能想到,这根本不是王劲松本人录制的,而是有人用AI盗用了他的肖像和声音,伪造的虚假理财推广视频。

2月26日,演员王劲松亲自发文爆料,称自己的形象被人恶意盗用,面对这段伪造的视频,他忍不住感慨:“太可怕了,视频里的声音、口型,根本看不出真假。”王劲松解释说,视频里的画面,其实是2022年他主演某部电视剧时的片段,他本人从来没有授权任何人用这些素材制作理财推广视频。

发现被侵权后,王劲松立刻以“仿冒混淆他人”为由,向相关平台投诉,目前已有部分涉事视频被删除。但2月27日上午,中国新闻周刊发现,相同内容的视频依然出现在某微信公众号上,文章标题十分吸睛,写着《XXX震撼视频!各大巨星为XXX助力加油喝彩!》。

点开视频一看,里面不光有“王劲松”,还有李连杰、姚明、李亚鹏、于和伟、唐国强等多位名人的身影。这些“明星”的外貌和声音,和本人几乎一模一样,全都在卖力推荐一家所谓的“数字金融企业”。

这家公众号在介绍该企业时,声称其业务涵盖数字货币和区块链,还谎称它隶属于某知名央企。可实际上,这家央企早在2023年就公开辟过谣,明确表示自己和这家“数字金融企业”没有任何关联,纯属虚假关联。

中国新闻周刊以“想要入群了解”为由,联系上了该公众号的负责人,对方只简单回复:“我们暂时停止推广了,你等我通知。”至于制作这些虚假明星视频用的是什么平台,负责人并没有透露,只含糊表示“花钱就能做”。

到了当天中午,该公众号就被平台屏蔽,相关文章和视频都无法查看,而此时,涉事文章的阅读量已经超过了3000次,可见传播范围并不小。

“这几个AI视频做得确实够逼真,一般人根本分辨不出来,就算是我,也得仔细看才能找出破绽。”资深AI博主歸藏在接受中国新闻周刊采访时表示。他以王劲松的虚假视频为例,分析了辨别真假的小技巧:比如仔细看嘴唇和牙齿的开合是否对应,还有面部动作和身体动作是否协调。

但歸藏也坦言,现在这些破绽很容易被规避——只要修改原视频素材,就能让面部和身体动作更协调,进一步增加辨别难度。他还补充说,按照正常规定,用AI生成他人人脸内容,必须获得本人授权;而且很多网络平台都有明确要求,AI生成的内容必须清晰标注,否则可能会被限流。

可这次涉及的所有侵权视频,没有一个标注了“AI生成”。“但实际情况是,很多平台对AI作品的监管并不严格,没有明确禁止使用他人人脸,而且也很难出台硬性规定。”歸藏表示,目前这类侵权问题,主要靠用户主动举报,平台很难做到全面、主动监管。

更麻烦的是,AI模型可以在本地运行,不一定需要借助网络平台。对于技术水平高的人来说,完全可以利用开源模型,自己搭建运行环境,这样一来,就彻底脱离了平台的监管范围,想要查处就更难了。

针对这件事,陕西恒达律师事务所高级合伙人、公益律师赵良善也给出了专业解读。他表示,商业平台如果未经授权,用AI抓取、生成、复用明星的面部形象,用来带货、引流、打广告等商业用途,就构成了肖像权侵权。

“核心判断标准很简单:AI生成的形象能让人一眼认出是某个明星、使用行为没有经过明星本人同意,而且不是用于新闻报道、科学研究等非营利性用途——只要是商业盈利,就完全没有‘合理使用’的说法。”赵良善说道。

他还提到,根据《生成式人工智能服务管理暂行办法》第十八条规定,没有对AI合成内容进行显著标识,需要承担行政责任;如果情节严重,还用这种虚假视频进行诈骗,还可能触犯刑法,构成犯罪。

赵良善补充说,这种AI盗用明星形象的商业行为,除了侵犯肖像权,还可能涉及声音权益、姓名权、名誉权等多项法律权益。如果提供AI工具的平台,没有尽到审核和防控义务,也会构成共同侵权,需要承担连带责任。

这件事引发广泛关注后,王劲松在评论区透露,其实在此之前,他就多次收到朋友转发的类似造假内容,“以前觉得那些做得太差,假的就是假的,一眼就能看出来”,可这次的AI造假,却让他“措手不及”,“就连我家里人,都分不清视频里的是不是真的我”。

王劲松还表达了自己的担忧:“我现在最怕的是,以后会不会出现更逼真、性质更恶劣的AI肖像侵权,比如用来诈骗?想想都觉得后怕。”

赞(0)
版权声明:本文为第三方投稿及转载资讯,观点仅代表作者个人,与本网站立场无关,所含信息仅供参考不构成投资建议。如涉及侵权,请及时联系我们处理。
分享到