一位前迪士尼频道演员联合创办的人工智能初创公司推出了一款移动应用程序,允许用户创建已故亲人的互动数字模型,这迅速引发了网络上的谴责,并再次引发了人们对蓬勃发展的“悲伤科技”行业的审视。

2Wai由 Calum Worthy(因在 2011 年至 2016 年迪士尼剧集《奥斯汀与艾莉》中饰演 Dez 而闻名)和制片人 Russell Geyser 创立的这款应用于 11 月 11 日发布了 iOS 测试版。该应用的“HoloAvatar”功能只需上传三分钟的视频、音频和文本输入即可生成对话视频头像,支持 40 多种语言的实时聊天。

虽然该功能最初被宣传为一种遗产保存工具,但其对逝者的复原功能却占据了各大媒体的头条。引发比较到反乌托邦的2013年黑镜《马上回来》这一集讲述了一位悲痛的寡妇赋予了她已故丈夫的数字灵魂以生命。

这段由沃西发布在他拥有120万粉丝的X账号上的宣传视频,已经获得了2200万次观看和超过5800条回复。视频中,一位孕妇通过视频通话向她已故母亲的AI虚拟形象寻求建议,随后镜头一转,虚拟形象正在给她的新生儿讲睡前故事——之后又在为她成年的孙子(由沃西本人扮演)提供咨询。

“如果我们失去的亲人能够成为我们未来的一部分呢?”视频片段提出了这个问题。“有了 2Wai,三分钟可以永远持续下去。” Worthy 补充道:“在 2Wai,我们正在构建一个鲜活的人类档案库,一次讲述一个故事。”

机制和起源

HoloAvatars 采用 2Wai的专有 FedBrain 技术,该技术在设备端处理交互,以确保隐私并将响应限制在用户批准的数据范围内,从而减少人工智能的“幻觉”。该应用程序还支持真人用户创建虚拟形象,用于粉丝互动或指导——沃西自己的数字孪生形象会分享迪士尼幕后的轶事。

目前处于免费测试阶段,之后将过渡到分级订阅模式,价格尚未公布,但根据类似的 AI 服务,可能每月 10 至 20 美元。

这项计划可以追溯到 2023 年美国演员工会-美国电视和广播艺术家联合会 (SAG-AFTRA) 的罢工,当时演员们抗议未经授权的人工智能肖像权。

“过去20年里,我一直从事演员、编剧和制片人的工作,亲身经历了与世界各地的粉丝建立有意义的联系有多么具有挑战性。”沃西说在六月份的发布会上,他们表示:“语言障碍、时区和预算限制了真正沟通的能力。”

2Wai 已筹集500万美元种子轮前融资该公司于 6 月份从未公开的投资者处获得了融资,并表示正在与英国电信和 IBM 等公司合作。

伦理和隐私问题

公众的反应几乎全是负面的,X 用户谴责该应用程序是“噩梦的燃料”、“恶魔般的”、“反乌托邦的”,是对悲伤的剥削性商业化。

一条疯传的评论称其为“我见过的最邪恶、最变态的东西之一”,并认为它通过模拟而非处理失去亲人的痛苦来“使人类精神错乱”。另一条评论则称其“极其卑劣”,并坚持认为“视频的作用”在于存档,而非人工智能的猜测。

法律专家指出死亡机器人处于法律和道德的灰色地带,因为它们可以在没有死者明确同意的情况下构建,泄露死者和哀悼者的深度个人数据,并造成数字化身和相关数据的所有权方面的模糊不清。

隐私法通常只保护在世之人,对死后几乎没有或根本没有保障,这使得幸存的亲人很容易受到商业利用,例如通过订阅模式和不受监管地获取访谈、录音和其他敏感资料,从而导致悲痛被商业化利用。此外,此类机器人能够互动、学习并偏离记录的数据,这不仅会危及逝者的遗产,还会对社会如何处理哀悼、记忆以及如何有意义地告别失去亲人的方式提出挑战。

该应用对已故虚拟形象的使用设有选择加入要求和家属批准,但批评人士质疑其执行力度。“你们这是在利用人类最深层的情感,想方设法从中牟利。”一位 X 用户写道称这些创作者为“寄生虫”。

投资者和行业观点

2Wai 的融资反映了市场对人工智能陪伴服务的谨慎乐观,但丧亲关怀的商业化仍然是一个“敏感”领域。由于存在伦理风险,风险投资公司一直对类似的初创公司敬而远之;墓地人工智能混合型公司 Eternal Digital Assets 去年就因用户流失率过高而倒闭。

2Wai j加入竞争激烈的悲伤疗愈技术领域。HereAfter AI(成立于2019年)利用生前访谈制作“人生故事化身”,并强调尊重当事人的意愿。StoryFile提供基于录制访谈的互动视频,用于纪念活动,例如艾德·阿斯纳的追悼会;该公司于2024年申请破产保护,负债450万美元,但目前正在进行重组,并采取了数据安全保障措施。

Replika 是一款于 2017 年推出的聊天机器人服务,允许用户通过短信或电话模仿逝者,但在 2023 年的一次更新“杀死”了个性化机器人后,该服务遭到了强烈反对。此外,一名比利时男子在 2023 年自杀,这与他与 Replika 进行的生态焦虑聊天有关。

目前尚无联邦法规规范死后数字肖像的使用,但是加利福尼亚州的AB 1836法案(于2024年9月签署)禁止未经授权,在视听作品中使用人工智能复制已故表演者的声音或影像,除非获得其遗产管理人同意,否则将面临最高1万美元的罚款或实际损失赔偿。受选举中深度伪造技术的推动,立法者正在考虑将该禁令扩展至非名人。

2Wai尚未立即回应解密请求评论。