您的位置:

金州动态

金州法评 | 探析“AI复活”逝者的法律风险及应对建议

作者:超级管理员 时间:2024-05-17 浏览:270




640.gif

引言

前有知名音乐人包小柏称成功运用AI技术“复活”了已离世两年的女儿,后有李玟、乔任梁等已逝的明星被网友使用AI技术“复活”的视频广泛流传。近来,随着“AI复活”这一AIGC技术的最新应用场景的频现,“AI复活”已故亲人或公众人物这门小众化生意已逐步演化为量级化产业。但恰如此前AI换脸引发的名誉侵权、诈骗犯罪等乱象,“AI复活”技术亦饱受争议,由此而生的法律风险及合规问题亦不断涌现。基于此,本文将以AI复活技术的现实应用为视角,浅析“AI复活”技术可能面临的法律风险及应对建议。

640.gif





640.gif

一、“AI复活”技术的概况

640.gif



640.webp.jpg

1、“AI复活”的定义


“AI复活”,是指通过深度学习、图像和声音处理等生成式人工智能技术将逝去亲人的文字描述、图片、视频和声音资料输入AI算法模型,模拟形成一个具备死者肖像、声音等外在形象特征的数字形象,让死者在虚拟场景里重生。根据我国新颁布的《生成式人工智能服务管理办法(征求意见稿)》中关于“基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。”的规定,AI复活数字人技术能够生成文本、图片、声音和视频,应是生成式人工智能之一,能够完成输出多模态信息和跨模态信息的生成任务,其本质上属于深度合成技术,业内人称之为“数字陪伴”或“AI数字永生”。


640.webp.jpg

2、“AI复活”产品的市场现状


通过检索电商平台AI复活数字人的产品可知,其产品服务类型可大致分为以下四类,一是定制文本,即利用书籍、杂志期刊文章等文本数据,通过技术模型制作出死者生前的文本内容;二是定制音频,即模仿死者的声音特征,通过技术模型制作出死者的声音片段;三是定制视频,即模仿死者的声音和照片,通过技术模型制作出一个死者祝福或安慰的视频;四是定制对话,模拟死者的声音、外貌特征,并输入其记忆和性格,与聊天者进行对话。

640 (1).gif




640 (5).gif

二、“AI复活”的民事侵权风险

640 (6).gif



640.webp.jpg

1、“AI复活”涉嫌侵犯死者的人格利益

自然人死亡后,民事权利能力随之终止,无法享有各项人格权利。但为保护死者的尊严,死者的肖像、名誉、姓名等人格利益仍然存在,法律仍予以保护。根据《民法典》第994条“死者的姓名、肖像、名誉、荣誉、隐私、遗体等受到侵害的,其配偶、子女、父母有权依法请求行为人承担民事责任;死者没有配偶、子女且父母已经死亡的,其他近亲属有权依法请求行为人承担民事责任。”此外,由于AI复活属于信息服务深度合成技术,根据《互联网信息服务深度合成管理规定》第14条,“深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的,应当提示深度合成服务使用者依法告知被编辑的个人,并取得其单独同意。”可知,AI复活需要取得被编辑个人的同意。若被编辑人是死者时,那么理应取得死者近亲属的同意。

虽暂未出现关于“AI复活”技术引发侵权纠纷的实务案例,但可以通过类似的“AI换脸”技术中对自然人人格权的侵害认定的案例和关于死者人格利益的保护的案例中参见相应的实务观点,笔者简要梳理如下案例,以供参考。




自然人人格权的侵害认定的案例

640.webp (2).jpg





死者人格利益保护的案例

640.webp (3).jpg


上述案例再次印证,未经过自然人同意授权的“AI换脸”技术侵犯了自然人的肖像权。由前述法律规定及相关案例可以推知,只要在未经其配偶、子女、父母或者近亲属同意的情况下,擅自利用其肖像、声音、个人隐私进行AI“复活”的,构成对死者的姓名、肖像、名誉等人格利益造成侵害的,死者近亲属有权对其提起民事诉讼,其将依法承担停止侵权、赔礼道歉及损害赔偿等民事责任。另根据《精神损害赔偿司法解释》第三条关于“死者的姓名、肖像、名誉、荣誉、隐私、遗体、遗骨等受到侵害,其近亲属向人民法院提起诉讼请求精神损害赔偿的,人民法院应当依法予以支持”的规定,若对逝者肖像的使用造成近亲属精神痛苦的,还将面临承担精神损害赔偿责任的风险。

除了《民法典》中规制近亲属以外的人的侵权行为,近亲属自身亦不可实施有违死者生前意愿的行为。如果逝者本人在去世之前,明确表示拒绝去世后被AI技术“复活”,那么应当尊重逝者生前的遗愿。即便是其近亲属,也不宜在逝者离世后通过AI将其“复活”。

综上,对于适用AI“复活”逝者的法律前提应是在不违背死者遗愿的基础上,取得死者近亲属的同意并且不得出现有损死者人格利益的内容。

若发现前述侵权内容,除发布者可能承担民事侵权责任外,发布侵权内容的网络平台在未尽合理义务时,亦有承担侵权责任的风险。近亲属在发现前述侵权内容时可向发布侵权内容的网络平台发出通知,要求平台采取删除、屏蔽链接等措施。若平台未及时删除侵权内容,将对损害扩大部分承担连带赔偿责任。


640.webp.jpg

2、“AI复活”涉嫌侵犯知识产权及不正当竞争利益


①、若未经授权利用AI复活技术对于具有商业价值的逝者生前留下的作品等推出“数字人”,可能涉及著作权侵权问题。

在类似的AI换脸技术案例中,例如(2022)沪0116民初13377号案,法院认为被告未经原告同意在其运营的视频AI换脸换装软件“换颜”中上传原告享有著作权的短视频作品提供给用户换脸使用。原告系涉案作品著作权人,被告未经许可,通过网络擅自使用和传播原告享有著作权的作品,且未支付报酬,侵犯了原告对涉案作品享有的著作权,依法应当承担停止侵权、赔礼道歉、赔偿损失等民事责任。由此可知,如果使用AI复活技术,利用乔任梁、李玟等已逝艺人明星的音频、视频、作品等资料训练出数字人并提供给大众付费使用,这种行为显然已经超出了合理使用的范畴,存在侵犯相关著作权人权利的问题。

②、对于AI复活后的虚拟数字人是否享有著作权,学术理论界和司法实务界则存在争议。

首先,关于AI复活的虚拟数字人的“创作行为”是否享有著作权问题。多数观点对此持否定意见,一是根据现行《著作权法》第二条关于“中国公民、法人或者非法人组织的作品,不论是否发表,依照本法享有著作权,另外,在具备一定条件时,外国人、无国籍人的作品亦应受保护”的规定,虚拟数字人并非上述主体,其本身运行的既定算法、规则以及所获得的运算能力和学习能力,均体现了开发设计者的干预和选择,其在某种程度上仅是作者进行创作的工具,不具有作者身份。在非作者身份时享有著作权亦不可行,无论是著作权的原始取得还是继受取得,虚拟数字人都无法作为著作权人存在。二是在现行《著作权法》框架下,多数观点认为AI生成的内容是应用算法、规则、模板的结果,弱人工智能的智力创作空间有限,不具备“独创性”,不属于作品,不能受到《著作权法》保护,即使人工智能生产的内容具有独创性,能够构成具体类型的作品,也不归属于该虚拟数字人,还要根据作品类型对作品权属进行判断,可能属于开发设计者。

其次,关于AI复活的虚拟数字人的“表演行为”是否享有著作权问题。根据《中华人民共和国著作权法实施条例》(以下简称著作权法实施条例)第五条第六项关于“表演者是指演员、演出单位或者其他表演文学、艺术作品的人。通常认为,表演是指表演者根据自己对作品的理解和阐释,以自己的声音、动作或表情或借助乐器等道具来表现作品的内容”的规定,虚拟数字人不符合表演者的上述界定。值得一提的是,人为驱动型虚拟数字人的开发设计者和操纵者是必不可少的参与主体,此时虚拟数字人作为完成表演到虚拟形象可视化、具象化的过渡,尚未有其对作品的自主理解和具有高度个性特征的自主表演意识,AI复活的虚拟数字人所作的“表演”实际上是对真人表演的数字投射、数字技术再现,其并非著作权法意义上的表演者,不享有表演者权。

最后,当AI复活的虚拟数字人参与拍摄或作为角色出演,其行为、表演活动被记录下来并被摄制在一定介质上,若该连续动态画面在上下衔接过程中产生了独特的视觉效果或表达特定思想感情,存在选择、判断、组合、编排,相关视频具备独创性,则可以构成视听作品。根据《著作权法》第十七条关于“视听作品中的电影作品、电视剧作品的著作权由制作者享有,其他视听作品的著作权归属由当事人约定,没有约定或者约定不明确的,由制作者享有”的规定,若视频缺乏独创性,则可以考虑按照录像制品加以保护,录像制作者享有相关邻接权。此时,不论何种驱动类型的虚拟数字人,均不享有视听作品的著作权或录像制作者的邻接权。随着人工智能技术的不断发展,AI复活的虚拟数字人必然会朝着更加智能化、精细化、多样化的方向发展,不过在现有的著作权法律体系的框架下,AI复活的虚拟数字人无法享有著作权法上的权利。

③、虽然用他人指定作品训练AI是否侵犯著作权依然存在争议,但从不正当竞争的角度来看,AI生成的作品和图像,的确会和通过继承获得作品相关权利的近亲属产生竞争关系,也有可能和艺人生前授权进行合作的其他经纪机构、演艺公司的利益产生冲突。

与之前引起广泛关注的ALphaGo和AlphaFold等专家型人工智能不同,生成式人工智能的颠覆性特性使其初步具有“通用人工智能”的潜能,从信息生成、知识生成迈向智慧生成,其独特的技术属性和不断演变的产业生态,正在给现有的竞争环境和反不正当竞争监管机制带来一系列全新挑战。

其一是大模型企业可能违规爬取数据用于模型训练,从而构成不正当竞争行为。如果使用违规爬取的数据训练而成的大模型,达到足以实质性替代其他经营者提供的相关产品或者服务的程度,可能构成不正当竞争。与此同时,违反约定或者以不合理、不正当的方式违反数据抓取协议,获取和使用他人的商业数据,如被认定为侵犯他人竞争性财产权益,同样可能构成不正当竞争。

其二是超大规模算力需求可能导致算力设备供应商排除限制竞争。由于通用计算芯片对软硬件技术均具有超高要求,需要先进工艺、核心人才、巨额资金投入以及优良的软件生态等前期投入,新进入者需投入大量资金、时间研发和试产,短期内市场上难以出现新的竞争者形成有效竞争约束,可能形成算力经营者垄断地位。大模型产业生态中,算力设备供应商可能存在市场集中度高,进入壁垒较高、交易金额大,从而具有排除、限制竞争的风险。

其三是“模型即服务”的产业模式可能强化市场控制权排除商业竞争。由于大模型先行者已经在事实上成为人工智能产业生态中的基础底座,其完全有可能从事排他性交易或者歧视性待遇行为,扼杀生成式人工智能行业的公平竞争。


640.webp.jpg

3、“AI复活”产品涉嫌的消费欺诈风险


在电商平台上,有关AI复活的产品层出不穷,标价从几元到几万不等,然而由于没有相关的监管,其质量也是良莠不齐,有部分消费者可能花费不菲的价格想要还原已逝亲人的音容面貌却得到毫不相关的产品,这其中可能涉及消费者欺诈问题。

根据《消费者权益保护法》第五十五条“经营者提供商品或者服务有欺诈行为的,应当按照消费者的要求增加赔偿其受到的损失,增加赔偿的金额为消费者购买商品的价款或者接受服务的费用的三倍;增加赔偿的金额不足五百元的,为五百元。法律另有规定的,依照其规定。构成欺诈有以下四个条件:(1)具有欺诈的故意;(2)实施了欺诈的行为;(3)使消费者产生了认识错误;(4)消费者基于认识错误购买商品。如果商家提供不符合其商品介绍页面描述的商品,将面临承担包含惩罚性赔偿责任在内的侵权赔偿责任。

640 (1).gif




640 (5).gif

三、“AI复活”的刑事犯罪风险

640 (6).gif



科技是把双刃剑,不可否认的是“AI复活”技术会给予部分亲属以慰藉,但该技术也可能引发电信网络诈骗、侮辱罪、诽谤罪等犯罪,侵犯公共利益。


640.webp.jpg

1、诈骗罪


由于AI技术的发展,随之而来的是“真假难辨”的信息,大量“AI复活”数字人的出现,极有可能被不法分子所利用逝者形象进行诈骗。例如目前许多不法分子先通过非法手段获取个人信息或者收集现有的名人信息,后利用“拟声”“换脸”等技术合成消费者虚假音频或视频、图像实施诈骗。正如(2021)鄂10刑终169号案,湖北省荆州市中级人民法院认为“被告人通过“AI智能机器人-智能语音客服系统”冒充证券公司客服,针对不特定多数人拨打诈骗电话,以骗取他人钱财的行为,由于AI智能机器人是被告人实施犯罪行为的载体及犯罪意志的延伸,故被告人利用其进行电信诈骗,应以诈骗罪定罪处罚。”行为人使用AI复活技术进行诈骗的,应当将AI复活制作出的作品视为犯罪工具,行为人以诈骗罪定罪处罚。


640.webp.jpg

2、侮辱罪、诽谤罪


我国学界通说认为,侮辱、诽谤罪的“对象必须是特定的自然人”。侮辱诽谤罪的犯罪对象是否包括死者一直有争议,自《民法典》第九百九十四条的设立,结束了自1987年“荷花女案”以来依靠“法官造法”处理侵害死者名誉纠纷的窘境。该条规定不但以直接保护的方式对死者名誉进行了确证和保障,而且也为刑法保护死者名誉提供了前置法支撑。刑法保护死者名誉具有正当性、必要性和可行性。由此可知,针对名人明星进行AI复活中如果涉及侮辱、诽谤的内容,亦可能触发《刑法》第246条规定,构成侮辱罪或诽谤罪。


640.webp.jpg

3、非法获取计算机信息系统数据、非法控制计算机信息系统罪

针对数据泄漏的情形,AI复活数字人使用的语言数据集、语音数据集、运动数据集包含敏感信息,如个人身份信息、财务信息等,且该数据集没有得到适当的安全保护,那么攻击者就有可能通过黑客攻击等手段获取这些敏感信息。由此,攻击者则可能构成非法获取计算机信息系统数据、非法控制计算机信息系统罪等。


640.webp.jpg

4、非法经营罪


针对其他非法利用AI复活技术及其虚拟数字人的情形,VPN提供者、代注册或供号“中间商”乃至山寨网站销售者违反网络安全法的相关规定,非法进行账号买卖的,可能构成非法经营罪。


640.webp.jpg

5、拒不履行信息网络安全管理义务罪


在AI复活研发者及技术管理者责任方面,其技术提供者不履行法律、行政法规规定的信息网络安全管理义务,致使违法信息大量传播、用户信息泄露并造成严重后果等,经监管部门责令采取改正措施而拒不改正,则可能构成拒不履行信息网络安全管理义务罪。

640 (1).gif





640 (5).gif

四、风险应对建议

640 (6).gif





前述风险涉及网络公众、网络商家及网络平台等多方主体,故分别以各主体为视角,分别浅析其应对措施。


640.webp.jpg

1、公众层面


一方面,增强防范意识,依法保障自身权益。公众应强化自身对邮件钓鱼诈骗恶意行为等的识别能力。此外,公众要谨慎提交个人信息及企业数据,防范AI应用个人隐私窃取、有害言论误导诱导等风险。防范利用仿冒知名AI应用收集敏感信息实施诈骗等行为。

另一方面,强化法律宣传,不得侵犯他人权益。利用传统媒体和新媒体平台等多渠道推进精准宣传,帮助公众提升对AI复活技术及其算法带来的歧视、操纵、隐私侵犯、电信诈骗等风险,若近亲属或网络用户是出于缅怀等情感目的,并且其AI复活的作品不用于盈利或进入公共网络,那么法律无权干涉。但对于在公共网络使用、传播AI复活的用户来说,如果AI复活的作品涉及侵犯他人隐私、名誉、肖像等人格权益、涉及侮辱诽谤他人或侵犯他人著作权等的违法内容,应当立即停止使用、传播行为。


640.webp.jpg

2、商家层面


一方面,对于从事生产、销售AI复活产品的商家,建议在收集训练所用数据时,依据数据的来源对数据进行分类,确保符合《网络安全法》以及《个人信息保护法》的相关规定。针对存在犯罪风险的爬取数据行为,需要进一步确认数据来源是否设置了反爬取声明或协议,以及数据本身是否涉及数据来源相关企业的商业秘密等。倘若数据涉及个人信息的,企业则需关注相关的信息是否获得个人的明确授权,授权内容与企业意图采取的处理方式是否匹配等;在使用数据前对其进行分类分级,并采取相应的保密措施。此外,在准备训练数据时,可以根据《互联网信息服务管理办法》《网络信息内容生态治理规定》等规定,对数据是否含有不良信息进行识别和审查。利用深度合成技术首先应当取得近亲属及相关权利人的同意,并且不得制作涉及侮辱诽谤或者侵犯他人权利的内容。对于具有商业价值的明星来说,要重点关注其可能涉及的著作权和不正当竞争问题。

另一方面,配备AI安全领域专业人员,对员工在日常工作或对外服务中使用AI复活应用行为进行规范,防范自身及客户数据泄露等风险。


640.webp.jpg

3、平台层面


一方面,为了规避侵犯人格权、知识产权等法律风险,网络平台作为传播的重要环节,应当健全投诉、举报机制,并配备相关审查机制,对于涉嫌违法的作品应及时删除或者配合权利人进行下架等处理。

另一方面,研究利用AI技术提升平台经营者在网络安全攻击检测、数据资产识别与风险监测、业务安全风控、不良信息识别、电信反诈、安全威胁分析、深度伪造识别等方面的能力。


640.webp.jpg

4、国家层面


首先,应制定和完善相关法律法规,明确AI复活技术的使用范围和限制,以及违法行为的法律责任。建议全面布局人工智能法规体系,应覆盖道德伦理、人身安全、个人隐私保护、算法规范应用、防范技术滥用和知识产生等方面,同时,推动现有法律法规向人工智能领域延伸适用,国家及行业主管部门推动《网络安全法》《数据安全法》《个人信息保护法》《反电信网络诈骗法》等法律在AI领域的延伸适用。其次,应建立独立的监管机构来监督AI复活技术的使用和开发过程,确保不触发法律及道德红线,结合《互联网信息服务算法推荐服务管理规定》《互联网人工智能算法深度合成管理规定》《生成式人工智能服务管理办法(征求意见稿)》和《科技伦理审查办法(试行)》等 AI 安全相关规定,强化对AI技术滥用等的法律约束。最后,应当建立数字人管理平台,对于AI复活数字人的制作进行事前审批,规范虚拟数字人的开发,明确虚拟数字人的所有者和管理者,在出现侵权时可以追责相关主体,同时在虚拟数字人的管理人死亡时及时销毁或保存,以免出现数字幽灵。

640.gif




结语


伴随着生成式人工智能引领的数据和算力革命,以及多模态、多场景应用的飞速发展,“AI复活”技术对现行法律体系带来了不小的挑战,参涉其中的公众、商家、平台均面临着不同的法律风险。对此,一方面,应当加强对相关应用的审核和监管,确保它们符合法律法规和道德标准。另一方面,还应当加强公众的安全意识和教育,使其在参与网络互动中尊重他人合法权益及公共利益,依法防范违法犯罪行为。





参考文献
1、参见张欣《生成式人工智能的数据风险与治理路径》载《法律科学》
2、 参见卢有学、陈俊任《死者名誉的刑法保护——以《民法典》第994条为切入点》载《人权法学》2023年第二卷第一期,第71-86页.
3、参见陈兵、董思琰《生成式人工智能的算法风险及治理基点》载《学习与实践》2023年第10期
4、参见《高艳东《防范AI复活法律风险,引导数字人安全发展》载《环球时报》
5、参见赵国庆《论虚拟数字人技术下生成内容的著作权法规制》载《新兴权利》集刊2023年第二卷


律师声明:

本文仅代表作者本人观点,不得视为湖南金州律师事务所或其律师出具的正式法律意见或建议。如需转载或引用本文的任何内容,请注明出处。




Copyright © 1988-2024 湖南金州律师事务所 版权所有 ICP备案:湘ICP备20010741号 技术支持:长沙网站建设

关注我们 关注我们
电话:0731-85012988
   0731-85012987
投诉:0731-85012983