生成式AI运行全景中的个人信息风险与治理

摘 要：生成式AI具有强大的内容生成和数据分析能力，在运行中需要对大量的数据进行处理，这一技术特性带来个人信息侵权风险。基于生成式AI运行全景下的个人信息侵权问题，可以从多个维度进行制度创新以保障个人信息安全，实现技术发展与个人信息保护的动态平衡。

　　关键词：生成式AI；个人信息保护法；风险规制

　  一、生成式AI运行全过程中个人信息边界的系统性侵蚀

　　生成式AI的数据存储方式是通过训练将数据蕴含的特征转化为参数权重，再将碎片化信息特征融合于参数中统一保存，并不直接保存用户的原始信息。这一存储方式使得大模型技术在训练阶段、生成阶段和数据传输等阶段消解了传统法律假设，带来个人信息边界的系统性侵蚀，产生个人信息侵权风险。

　　在训练端，生成式AI会利用“网络爬虫技术”对个人信息进行抓取，这一过程会产生个人信息侵权风险。“基于互联网抓取的数据通常来源于新闻网站、论坛、社交平台、博客及各类开放网页。此类数据在形式上具有‘可访问性’，但并不当然等同于‘可自由利用’。”[1]用户在使用互联网平台时会留下自己的个人信息，这一类个人信息虽然在形式上是公开的，但并不表明信息主体同意其被生成式AI任意抓取和训练，公开访问与自由利用之间的法律边界被进一步模糊。

　　在生成端，生成式AI产出的虚假信息会对个人信息产生侵权风险。大模型难以识别虚假信息，在产出内容时有时会将虚构的事实和不特定主体关联，构成名誉权侵权或个人信息权益侵害，“南京李小亮律师AI名誉侵权案”是这一风险的典型验证，平台生成的虚假信息严重损害当事人社会评价。如果产出的虚假内容被广泛传播不仅造成人格权侵权，还让法律赋予个人信息主体的更正、删除等相关权利难以落地，产生个人信息侵权风险。

　　在数据传输与存储阶段，个人信息二次利用带来的侵权风险是需重点关注的。生成式AI应用过程具有“交互性”的特征，这种“交互性”的沟通模式使得用户会在发出指令时“不自觉”地向大模型平台发送个人信息，这类个人信息在传输过程中易被后台储存进数据库中。部分平台未对此类信息进行脱敏就将其整合进数据库中导致个人信息的二次利用，使得个人的“数字画像”更加清晰，造成个人信息的过度暴露，带来个人信息侵犯风险。

　　二、生成式AI对既有个人信息保护规则的冲击

　　我国通过多部法律法规保护互联网和生成式AI应用背景下的用户的个人信息权益，但是随着大模型技术的发展，现有法律规则不断受到冲击。

　　（一）“知情同意”与“最小必要”原则的适用困境。我国《个人信息保护法》确立了“知情同意”和“最小必要”两大原则，在实践中难以实际践行。“知情同意”原则层面，“算法黑箱”的技术难题使得平台难以向用户准确告知个人信息的利用途径以及潜在侵权风险，用户无法对数据处理作出真实有效同意，知情权受损。“最小必要”原则层面，大模型需持续扩充语料库，平台为完善模型会过度收集各类个人信息，与原则所要求的限定范围、最小影响相悖。

　　（二）开发者、平台与使用者之间的责任划分难题。我国目前针对个人信息保护的法律法规较少，难以覆盖生成式AI的应用全景，对于生成式AI不同主体的责任划分缺乏详细的规定。生成式AI侵权所涉及的主体包括开发者、平台方和使用者，但是由于其技术特性这三方之间的责任边界随信息边界一同溶解，在面对部分个人信息侵权问题时，无法确定是算法固有缺陷还是信息来源错误抑或指令错误，形成“人人有责又人人无责”的僵局。

　　（三）生成式AI内容监管机制的不足与滞后。我国《生成式人工智能服务管理暂行办法》提出了不同部门在监管层面的职责，但是这一规定并不细化，监管模式较为滞后，在实践中仍存在跨平台难以监管等问题。当平台在没有确定的依据时，会生成“看似合理却错误”的内容。监管机制的滞后使得生成虚假信息这类问题频发，任其发展对用户来说将会加深“信息茧房”等相关问题，长此以往会对社会信任带来不利风险。

　  三、面向生成式AI的个人信息保护制度调适

　　生成式AI产生的个人信息保护难题需要从基础规则创新、准确划分责任、主体权利实现三重维度重构个人信息保护逻辑，平衡技术发展与个人信息权益保障之间的冲突。

　　（一）基于风险等级的知情同意分层机制。我国现有的个人信息保护基本原则难以适配生成式AI的应用全景，统一概括式同意会造成形式化告知等治理困境。在此背景下，可以规定基于风险等级下的知情同意分层机制以保护个人信息权益。将数据处理行为产生的个人信息潜在侵权风险划分为三个等级，设置差异化的授权规则。对于临时对话信息适用简易同意，需要用户交互数据设置选择性同意，针对大规模抓取自然人信息进行数据训练要求单独授权。这种“分层同意”模式能够实现告知义务的分层披露和同意权限分阶段撤回，推动知情同意规则从静态的概括性同意转向根据不同风险下的动态同意，保护个人信息权益。

　　（二）依据参与度与控制力厘清各主体责任边界。生成式AI在运用的过程中，开发者、平台、使用者等多个主体对个人信息侵权均要承担责任。“可以采用动态体系论，确立过错、危险、支配领域等要素，在个案中综合各要素的权重和强度予以认定不同主体的责任。”[2]根据不同主体的参与度和控制力合理划分不同主体的责任。

　　开发者作为核心主体，应当对大模型应用全景中因为算法缺陷等技术层面引发的个人信息侵权问题进行技术归因，并构建全链条风险防控体系，有效弥补技术漏洞带来的个人信息风险。大模型平台需要积极承担相关的注意义务。积极对侵权行为采取救济措施，如果未及时采取救济措施致使损害扩大的，根据自身的过错程度承担相应连带责任。用户在使用生成式AI平台时应当遵守法律规定，不得使用该技术损害他人合法权益。对生成式AI侵权的归责，应当根据不同主体的参与度与控制力分配责任，以保护个人信息安全。

　　（三）以“生成中止权”补充传统删除权的功能局限。面对“删除权”的法律适用困境，应转换权利内容，转向赋予信息主体要求模型在特定情况下停止生成关于自己的信息的权利即“生成中止权”。“生成中止权”不以技术的擦除为前提，而是对模型的生成行为施加禁令。产出内容之前，生成式AI如果对用户发出的指令识别出其将要产出的内容尤其是错误内容会侵犯主体的个人信息，此时平台即可中止生成，并将潜在的侵权内容通过数据清洗的方式降低出现的频率以保护个人信息。在产出内容之后，如果用户反馈产出内容存在个人信息侵权问题，平台应当及时确定是否存在侵权问题，如果存在侵权问题立即中止这一类型的内容产出，并对侵权内容进行全平台删除和数据清洗，以防止损害的扩大化。

　　四、结语

　　数字时代的来临和生成式AI的运用，为社会发展和日常生活带来诸多便利。个人信息对于民事主体而言，既是人身自由和人格尊严的重要载体，也是数字时代发展的核心资源。文章从多个角度分析了生成式AI的应用对个人信息保护的侵权风险，为个人信息保护提出建议，以保护个人信息安全，推动社会的发展。

文章来源：《安徽科技报》https://www.zzqklm.com/w/qt/35317.html