虚拟的“我”,到底属不属于我?

发布时间: 2022-08-05 来源:北京互联网法院
  假如互联网上存在一个虚拟的人物,和你长得一样,姓名也一样,别人可以随意和这个“你”聊天,甚至形成任意的亲密关系,你该怎么办?北京互联网法院法官孙铭溪做客CCTV13《法治在线》,为大家讲解这起“AI陪伴”软件侵害人格权案。
 
  案情回顾
 
  涉案软件是一款手机记账软件,用户在该软件中可自行创设“AI陪伴者”,设置陪伴者的名称、头像、与该陪伴者的人物关系。根据这款软件的设计,用户任意上传一张头像,软件就能够生成一个非常逼真的虚拟形象,之后用户的每一笔记账,软件都能以拟人化的形式进行回应,并通过设置陪伴者的回复语言,“调教”该“AI陪伴者”与用户的互动语言。
 
  原告发现,他在这款软件中被大量用户设置为虚拟陪伴者,并且软件会根据聊天场景的不同,通过算法和自动回复的方式,向用户推送与原告有关的肖像、表情包及相关语料。原告认为,他并未授权软件使用自己的肖像、姓名甚至人格表征,被告的行为侵害了他的姓名权、肖像权、一般人格权,故诉至法院。被告辩称,原告主张的AI角色设置、肖像图片上传、语料“调教”等行为均由用户作出,被告仅为网络技术服务提供者,不应承担侵权责任。
 
  法院最终判决,被告行为构成对原告姓名权、肖像权、一般人格权的侵害,向原告赔礼道歉,并赔偿原告的经济损失183000元,精神损害抚慰金20000元。
 
  法官说法
 
  涉案软件的服务与技术服务存在本质不同。被告并非提供简单“通道”服务,而是通过规则设定、算法设计,组织用户形成侵权素材并提供给用户。虽然具体图文由用户上传,但被告的产品设计和对算法的应用实际上鼓励、组织了用户的上传行为,直接决定了软件核心功能的实现。被告不再只是中立的技术服务提供者,应作为内容服务提供者承担侵权责任。
 
  被告的行为属于对包含了原告肖像、姓名的整体人格形象的使用。同时,用户还可以设定与该AI角色的身份关系、设定任意相互称谓、通过制作语料素材“调教”角色,从而形成与原告真实互动的体验。这些功能均由被告设置在该软件中,被告的行为还涉及使用自然人的人格自由和人格尊严。被告未经同意使用原告姓名、肖像,设定涉及原告人格自由和人格尊严的系统功能,构成对原告姓名权、肖像权、一般人格权的侵害。
 
  本案入选最高人民法院发布的民法典颁布后人格权司法保护典型民事案例。最高人民法院指出,随着后疫情时代互联网产业模式的进一步创新,虚拟现实等新技术的不断发展,自然人人格要素被虚拟化呈现的应用日益增多。本案明确自然人的人格权及于其虚拟形象,同时对算法应用的评价标准进行了有益探索,对人工智能时代加强人格权保护具有重要意义。

首页 > 安全警示

虚拟的“我”,到底属不属于我?

发布时间:2022-08-05来源:北京互联网法院

  假如互联网上存在一个虚拟的人物,和你长得一样,姓名也一样,别人可以随意和这个“你”聊天,甚至形成任意的亲密关系,你该怎么办?北京互联网法院法官孙铭溪做客CCTV13《法治在线》,为大家讲解这起“AI陪伴”软件侵害人格权案。
 
  案情回顾
 
  涉案软件是一款手机记账软件,用户在该软件中可自行创设“AI陪伴者”,设置陪伴者的名称、头像、与该陪伴者的人物关系。根据这款软件的设计,用户任意上传一张头像,软件就能够生成一个非常逼真的虚拟形象,之后用户的每一笔记账,软件都能以拟人化的形式进行回应,并通过设置陪伴者的回复语言,“调教”该“AI陪伴者”与用户的互动语言。
 
  原告发现,他在这款软件中被大量用户设置为虚拟陪伴者,并且软件会根据聊天场景的不同,通过算法和自动回复的方式,向用户推送与原告有关的肖像、表情包及相关语料。原告认为,他并未授权软件使用自己的肖像、姓名甚至人格表征,被告的行为侵害了他的姓名权、肖像权、一般人格权,故诉至法院。被告辩称,原告主张的AI角色设置、肖像图片上传、语料“调教”等行为均由用户作出,被告仅为网络技术服务提供者,不应承担侵权责任。
 
  法院最终判决,被告行为构成对原告姓名权、肖像权、一般人格权的侵害,向原告赔礼道歉,并赔偿原告的经济损失183000元,精神损害抚慰金20000元。
 
  法官说法
 
  涉案软件的服务与技术服务存在本质不同。被告并非提供简单“通道”服务,而是通过规则设定、算法设计,组织用户形成侵权素材并提供给用户。虽然具体图文由用户上传,但被告的产品设计和对算法的应用实际上鼓励、组织了用户的上传行为,直接决定了软件核心功能的实现。被告不再只是中立的技术服务提供者,应作为内容服务提供者承担侵权责任。
 
  被告的行为属于对包含了原告肖像、姓名的整体人格形象的使用。同时,用户还可以设定与该AI角色的身份关系、设定任意相互称谓、通过制作语料素材“调教”角色,从而形成与原告真实互动的体验。这些功能均由被告设置在该软件中,被告的行为还涉及使用自然人的人格自由和人格尊严。被告未经同意使用原告姓名、肖像,设定涉及原告人格自由和人格尊严的系统功能,构成对原告姓名权、肖像权、一般人格权的侵害。
 
  本案入选最高人民法院发布的民法典颁布后人格权司法保护典型民事案例。最高人民法院指出,随着后疫情时代互联网产业模式的进一步创新,虚拟现实等新技术的不断发展,自然人人格要素被虚拟化呈现的应用日益增多。本案明确自然人的人格权及于其虚拟形象,同时对算法应用的评价标准进行了有益探索,对人工智能时代加强人格权保护具有重要意义。