分享缩略图

分享到:
链接已复制
首页> 智库中国>

高艳东:防范AI复活法律风险,引导数字人安全发展

2024-03-26 13:30

来源:环球时报

分享到:
链接已复制
字体:


文 | 高艳东 浙江省新型重点专业智库浙江数字化发展与治理研究中心研究员

近日,一些网络博主使用人工智能(AI)技术“复活”已故明星引发广泛关注。不仅李玟、张国荣、乔任梁等明星被“数字还原”的视频疯传,还有人借机推广收费定制服务。目前,AI复活还只是用图像和音频技术合成,类似于视频数字人。随着生成式人工智能的发展,出现如电影中可以互动、具有一定独立意识的智能数字人的未来也在变成现实。

从前景来讲,AI复活具有广泛的应用价值:可以让丧亲的家属寄托哀思,可以让粉丝感受偶像的陪伴,可以让英雄鼓励年轻人前行。但任何技术都有两面性,一旦滥用,轻则侵权,重则可能涉嫌违法犯罪。确保AI复活不侵害个人权益、不侵犯公共利益应是相关立法的底线。

第一,AI复活可能侵犯死者家属的权益。一方面,虽然死者不是民事主体,不享有民法意义上的肖像权,但这并不意味着其肖像可以被他人随意使用。《民法典》第994条规定:“死者的姓名、肖像、名誉、荣誉、隐私、遗体等受到侵害的,其配偶、子女、父母有权依法请求行为人承担民事责任。”因此,死者的肖像仍然受到法律保护。另一方面,AI复活使用的是深度合成技术,《互联网信息服务深度合成管理规定》第14条规定:“深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的,应当提示深度合成服务使用者依法告知被编辑的个人,并取得其单独同意。”因此,该服务使用者需取得被编辑人的单独同意,在被编辑人是死者时,应取得其近亲属的同意。虽然一些博主AI复活明星是为了获得流量和关注,并未直接收费,但考虑到互联网的特殊性,流量即价值,博主可通过流量获得广告等收益,所以“赚流量”也属于商业使用。

第二,除了侵犯死者亲属的权益之外,AI复活也存在许多亟待解决的法律问题。一方面,AI复活可能导致社会、法律关系的混乱。工业时代的法律是以自然人为核心建立起来的,而数字人的出现,尤其未来的智能数字人,将让法律面临“自然人+数字人”的双主体困惑。例如,自然人的遗嘱是把房产留给大儿子,而数字人与小儿子的感情密切,想把房产留给小儿子,如何协调两者间的关系是一大问题。此外,数字人创作的作品权益由谁享有?在近亲属死亡后,如何解决数字人的权益问题?这些目前都是法律空白。另一方面,AI复活可能引发违法犯罪,损害公共利益。某种程度上,AI复活是深度伪造技术的应用,而深度伪造技术已经被用于电信网络诈骗,犯罪者同样可能利用AI复活对尚不知情的公众进行诈骗。同时,智能数字人若在网络空间实施其他违法犯罪行为,如发布虚假信息、传播恐怖主义、传授犯罪方法,在管理者已经死亡时,如何对数字人进行追责?此外,如果AI复活了秦桧、希特勒等有争议的历史人物,对大众的情感可能也是一种伤害。

第三,对于AI复活,法律应采用“不管私用、严管公用”的思路。从人情角度考虑,法律上不对私人领域的AI复活加以干涉,即便近亲属为了缅怀亲人而AI复活死者,只要限制在个人用途,不进入公共网络空间,法律就无须干涉。而在公共网络空间,法律就必须严格防止AI复活的潜在风险。具体而言,一是应根据复活对象设置不同的审查标准,例如,对于AI复活英雄、烈士,应当采用事前特别审批制,严格管控使用用途、开发者的主体资质。而对于复活明星,则可以采用事后追责的模式,根据危害后果对相关主体进行追责。二是应建立强制标注制度。为了防止AI复活以假乱真,对于AI生成物,法律应强制要求开发者增加显著的数字水印,做到可以快速识别数字人。而使用、管理数字人的平台,必须对数字人形象作出特别标注,让用户清楚知道其属性。三是建立数字人销毁制度。数字人应当有明确的管理者,在开发者死亡且缺乏其他管理人时,应建立一套数字人销毁机制或保存机制,以免数字人成为失控的“数字幽灵”。

总之,AI复活对现有法律体系带来的挑战是巨大的。鼓励技术发展的同时防范技术风险,是法律的永恒主题。未来立法应当平衡技术创新与风险防范之间的关系,既不能因其存在风险而一禁了之,也不能无视其潜在的风险。只有采用包容审慎的监管思路,使AI复活技术既能满足个人的情感需要,又不损害公共利益,才能让技术成为推动数字经济发展与社会和谐的正能量。


【责任编辑:申罡】
返回顶部