可通过不断“打补丁”的方式出台新规则,完善规制数字“复活”技术的规范体系
花钱与逝者“对话”“AI复活”引争议
“AI复活”定制视频似乎正成为一门赚钱的生意。
所谓“AI复活”,是指利用人工智能技术将逝去亲人的文字描述、图片、视频和声音资料输入AI算法模型,从而模拟生成一个数字形象,拥有逝者的性格、记忆、图像、视频和声音。
但在无形中,AI又一次跨越了人类伦理与道德的边界,伤害到了部分人群的情感。
怎么进行“AI复活”?
对于初次接触“AI复活”这个概念的人来说,难以想象的东西还是太多了。最直观的疑问就是——AI“复活”某人之后,我们到底会以什么样的形式与TA相见?一段视频?一个可互动的程序?抑或是某种可真实触碰的全新物品?
来自上海的超级头脑团队从2015年进入AI游戏开发、VR、数字人等领域,在2023年3月份开始涉足“AI复活”这个崭新的应用场景。团队的创始人张泽伟详细介绍了他们当前主要的三类业务:
●AI疗愈
呈现形式为通过微信视频的实时通话。团队会基于生成合成类的AI技术克隆相关人物的真实形象、声音,然后再由团队专业的心理咨询导师“换上”这个形象,扮演这个人物与客户进行沟通。这一业务本质是由专业心理咨询师驱动的,结合了AI的一种心理疗愈手段。
●数字遗照
呈现形式为搭载了大语言模型且拥有真实人物形象的相册。团队同样基于相关AI技术合成一种数字照片,照片具有真实形象,可以有简单的动作和表情,还可以用逝者的声音进行实时的交流和对话。这一业务本质则是一种软硬件结合的AI聊天机器人。
●3D超写实的仿生数字人
底层技术逻辑与第二种基本相同,但最后会以3D的全息仓呈现出来,相当于一个3D建模出来的立体的逝者形象与人进行互动。
张泽伟表示,目前第一种“AI疗愈”已经做了600多单,后两种还没有大量铺向市场,仍在进行内部的细节优化和版本迭代中。整体来讲,就算“安排上顶格的技术”,一单的价格也不会超过五位数。
有人弥补了情感的缺憾
对于突然失去父亲的云南人柳芳(化名)来说,身在异乡没有见到父亲最后一面是人生最大的遗憾。回到家乡,办完父亲的身后事,看到父亲曾经坐过的沙发,或是无意中点开和父亲的微信聊天框……她的眼泪就会止不住地流下来。
“他在弥留之际想和我说什么?是不是还会叮嘱我好好吃饭?不要和丈夫闹脾气?”难过时,柳芳总是把自己关在房间里,一遍遍地翻看自己和父亲的聊天记录。
直到在短视频平台上刷到有商家提供AI“复活”亲人的服务,柳芳像抓到了救命稻草一般,很快下了单。“我很想再看到我父亲,即便知道那是不真实的,但我还是很渴望听到父亲对我说话,听一听他的叮嘱”。
支付200多元并提供了父亲生前的录音和照片,还有她希望听到父亲说的话,柳芳收到一段短视频。视频里,父亲微笑着对她说着话,短短几十秒,柳芳看了几十遍。
多位明星家属发文抵制“AI复活”
近日,“网友用AI复活李玟”“家人回应博主用AI复活高以翔”“父亲希望AI复活乔任梁视频尽快下架”等话题冲上热搜榜。
然而,多位已故明星家属并不支持粉丝们这样的做法,认为这是在往他们的伤口上撒盐。
高以翔家人和乔任梁父亲目前都明确表示,不希望自己已故亲人的肖像被他人任意使用。
江歌妈妈也发表了关于“AI复活亲人”的看法,她表示:“不接受用AI复活亲人!凭什么为我们(我与女儿江歌)决定!”
“AI复活”在遭受抵制后,其究竟是否侵权的问题也颇受关注。
根据《中华人民共和国民法典》第九百九十四条规定:“死者的姓名、肖像、名誉、荣誉、隐私、遗体等受到侵害的,其配偶、子女、父母有权依法请求行为人承担民事责任;死者没有配偶、子女且父母已经死亡的,其他近亲属有权依法请求行为人承担民事责任。”
在北京市汉鼎联合律师事务所律师何智娟看来,此条规定意味着逝者虽然不直接享有民事权利,但其姓名、肖像、隐私等仍受法律保护。视频制作者在未经逝者近亲属允许的情况下,使用AI技术模拟逝者可能承担法律责任。
何智娟进一步表示,“AI复活”是否合法,关键在于是否获得了近亲属的授权。如果被复活的对象身份特殊,还需取得相关机构的授权。需特别注意的是,如果是名人、艺人等拥有一定知名度的群体,近亲属在授权时应确定授权范围、使用方式、许可使用期限、使用规范等内容,约定公正合理的违约责任,避免不必要的法律纠纷。
“AI复活”业务为何能成为一门生意?
“AI复活”业务成了一门生意的原因在于,它本身就是一种从需求寻找市场的特殊行业。在多部受人关注的影视作品中,也曾出现“AI复活”相关的题材。
在国产电影《流浪地球2》中,科学家图恒宇利用量子计算机,“复活”了因车祸去世的女儿丫丫,赐予她数字生命。
在电商平台上,有部分商家已经推出了AI“复活”亲人服务。截至目前,有些商家已经售出了超过800单。
但在“AI复活”技术中,出现了一些被家属允许的案例。例如,最近在社交媒体上火爆的“钱学森数字人”,就是经钱学森家属及钱学森管理委员会同意后,由中国科技大学联合愿景公司出品的“AI虚拟人”,项目发布后获得近20万点赞,收获了大量好评,也引发了广泛关注。
不难看出,在充分尊重家属意愿的前提下,“AI复活”技术也能够被接受和支持,为人们带来了新的体验场景。
据悉,一些AI数字人公司目前也在主动约束自己的行为。已经在虚拟数字人领域取得了显著成就的小冰公司CEO李笛也在近期表示,他们的AI技术可能打开了“潘多拉的魔盒”。
李笛指出,尽管更多数据可以使“AI复活”更真实,但也增加了数据被滥用的风险,如黑客攻击或诈骗,滥用风险可能增加,可能导致个人隐私数据和金钱被勒索。因此,李笛认为AI复生一旦被滥用,其可能会造成数据“巨大破坏”。
私自进行“AI复活”,家属如何维权?
在“AI复活”业务如火如荼时,其能否成为一门完全合法的生意,貌似还有很长的路要走。
黑龙江孟繁旭律师事务所高级合伙人孟广远表示,“AI复活”作为一项新兴事物,目前虽可以进行商业活动,但要根据商业活动的具体内容判定是否合法。“AI复活”的视频内容应当尊重社会公德、伦理道德,不能出现违背社会公序良俗的内容。
同时,当家人的音容笑貌被陌生人私自进行“AI复活”时,家属会承受到亲人离世后的二次伤害。在这种情况下,了解如何维权至关重要。
多位法律专家表示,如果只是一般的视频侵权行为,可先联系发布视频的相关平台或个人,要求其删除该视频;如该平台或个人仍继续侵权行为,可向侵权行为所在地和被告住所地法院提起诉讼。
孟广远补充道,依据《民法典》第一千一百九十五条的“通知与取下”规则,死者家属可以向网络服务平台提供构成侵权的初步证据(如视频链接)、死者家属的真实身份信息、与死者的亲属关系证明,要求网络服务平台采取下架视频等必要措施。
诚然,部分视频作者系为怀念逝者,但也不乏打着怀念逝者的名义“消费”逝者,博取流量。
何智娟提醒,如果“AI复活”视频对逝者有严重的侮辱情形,还有可能触及刑法,构成侮辱罪。多位法律专家指出,对于以怀念逝者为名,却以此获取流量并可能侮辱逝者的行为,社会应保持警惕。
多位律师认为,针对数字“复活”技术的使用,现有法律难以规制的,可通过不断“打补丁”的方式出台新规则,逐渐完善规制数字“复活”技术的规范体系。与专门、系统立法相比,这种渐进式规则完善方式,可以给这一新领域的发展留出足够空间。
评论
AI本无罪,“复活”须规范
经验告诉我们,一项新技术的运用,注定不会只是数字层面的考量那么简单。事实上,AI“复活”服务,从诞生起就一直充满争议。支持“复活”的人,认为形式新颖、成本不高,隔空互动可以寄托对逝者的情感慰藉;反对“复活”的人,则认为这项技术是在“揭活人伤疤”,甚至侵犯了逝者的肖像、名誉和隐私。不难看出,涉及逝者这一特殊群体,AI“复活”服务就不仅是单纯的技术问题,还应综合考量人文情感、社会伦理、公序良俗等因素。
AI技术并无原罪,关键还在于怎样面对和使用它。回看此前和近期陆续曝出的多起AI“复活”服务案例,之所以屡屡引发不小争议,主要问题出在了权益相关者是否知情同意,以及如何规避风险上。
面对快速演变的现实生活,法律和监管往往具有一定滞后性。以AI“复活”逝者来说,有一些问题可以探讨明确。比如,在亲属中,究竟谁有权利来“让渡”采集逝者的肖像、声音等数据;被采集起来的逝者数据资料,如何获得妥善保管或者完整消除,商家、平台等的责任怎样明确界定;逝者数据的利用边界在哪里,以及未来可能产生的收益或者种种风险,应该由谁来承担……这些都是伴随AI技术发展,可能面临且需要解决的规则细节。
AI新场景不断落地,技术商业化持续加速的今天,AI“复活”逝者引发的争议,给人们提供了及时必要的冷思考——技术本无罪,实践须规范。技术发展的目的,是为了“人”更好地生活和发展。技术演变越是先进,越要有所敬畏,守住伦理底线和法治边界,技术才能更好造福人类。
(综合人民网、中新社、澎湃新闻、南方都市报)整理/佛山市新闻传媒中心记者沈煜