正在阅读:

生成式人工智能新规强化个人信息保护,以知情同意为首要原则

扫一扫下载界面新闻APP

生成式人工智能新规强化个人信息保护,以知情同意为首要原则

《办法》相关规定体现了个人信息在人工智能语境下全生命周期的有效保护,能够最大限度地尊重保障个人权益的基础诉求。

图片来源:视觉中国

界面新闻记者 | 张旭

界面新闻编辑 | 翟瑞民

近期,利用“AI换脸”技术进行视频合成、进而实施诈骗的案件频发,包括网络上出现利用AI技术侵犯明星肖像权等情况,如何规范人工智能技术应用和发展引起社会广泛关注。

2023年7月13日,国家网信办等7部门联合对外发布《生成式人工智能服务管理暂行办法》(简称《办法》)》,自2023年8月15日起施行。

国家网信办有关负责人表示,近年来,生成式人工智能技术快速发展,为经济社会发展带来新机遇的同时,也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题,如何统筹生成式人工智能发展和安全引起各方关注。出台《办法》,旨在促进生成式人工智能健康发展和规范应用,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益。

生成式人工智能又称AIGC或生成式AI,是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术,被视为数字化时代一种颠覆性的技术创新。界面新闻注意到,此次出台的《办法》对个人信息保护,防范侵权等方面作出明确规定。

《办法》明确,提供和使用生成式人工智能服务,应当遵守法律、行政法规,尊重社会公德和伦理道德。在算法设计、训练数据选择、模型生成和优化、提供服务等过程中,采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视;尊重他人合法权益,不得危害他人身心健康,不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。

北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括向界面新闻表示,从个人信息保护角度来看,《办法》涉及的相关规定,事实上是根据国家网络安全法、数据安全法以及个人信息保护法等法律法规,针对人工智能技术逻辑和产业特点所做出的专门设计。

“得益于国家和社会层面的公共支持,此次《办法》突出了合法性、安全性和伦理性的三重融合。”吴沈括说。

北京市京师(深圳)律师事务所知识产权主任管巧丽表示,《办法》出台为保护权利人的知识产权等合法权益提供了法律依据,同时对生成式人工智能服务提供者提出了知识产权法律风险防范与合规的要求。

针对个人信息保护,在数据的收集、处理、加工以及删除等各个环节,《办法》也专门设定了相应的服务规定。

《办法》要求,生成式人工智能服务提供者在开展预训练、优化训练等训练数据处理活动时,涉及知识产权的,不得侵害他人依法享有的知识产权;涉及个人信息的,应当取得个人同意或者符合法律、行政法规规定的其他情形。

在提供服务过程中,服务提供者应当依法承担网络信息内容生产者责任,履行网络信息安全义务。涉及个人信息的,依法承担个人信息处理者责任,履行个人信息保护义务。

《办法》规定,不得收集非必要个人信息,不得非法留存能够识别使用者身份的输入信息和使用记录,不得非法向他人提供使用者的输入信息和使用记录。此外,提供者应当依法及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求。

在监督检查环节,《办法》还规定,参与安全评估和监督检查的相关机构和人员对在履行职责中知悉的国家秘密、商业秘密、个人隐私和个人信息应当保密,不得泄露或者非法向他人提供。

“这体现了个人信息在人工智能语境下全生命周期的有效保护,能够最大限度地尊重保障个人权益的基础诉求。”吴沈括表示,《办法》涉及的防止个人信息侵权的制度核心中,强调的是以知情同意为原则,同时能够兼容个人信息保护法所规定的六种例外情形。“为人工智能产业发展和必要的数据资源的获取带来制度性空间。”吴沈括说。

不过,吴沈括也建议,在《办法》施行过程当中,无论是在算力的共享、算力资源的共享,还是公共数据的开放利用等方面,决策部门应出台更多配套政策和规定来予以支持落地,为产业发展提供更好地公共支持。其次,在安全评估、算法备案、内容审核等业务合规方面期待引入更多细化指引规则。

除此之外,服务提供者针对数据平台内容进行合规治理时,管巧丽建议要做好知识产权侵权风险防范。

她表示,建立必要的版权审查和过滤机制。对平台内已存在的数据内容要进行筛查、过滤及比对,及时处理涉嫌数据安全内容。同时建立人工复核制度,在平台内部对数据安全内容的审核要提高到相对重要的上位制度高度。

另外,鉴于人工智能服务生产的作品形态具有多元性,管巧丽建议设置多重投诉应对措施,减小侵权作品的传播范围,降低构成侵权之可能性。

“也要尽最大努力取得权利人的授权。”管巧丽表示,服务提供者取得权利人的授权这是最直接有效的措施,亦是首要的合规方式,平台可以通过与权利人签订授权许可形成平台自有素材库。或者平台开辟创作者专区,鼓励各类原创者通过有偿方式在平台上上传原创素材,其他用户在使用之前通过有偿方式取得除人身性权利外的其他各种权益授权或转让。

未经正式授权严禁转载本文,侵权必究。

评论

暂无评论哦,快来评价一下吧!

下载界面新闻

微信公众号

微博

生成式人工智能新规强化个人信息保护,以知情同意为首要原则

《办法》相关规定体现了个人信息在人工智能语境下全生命周期的有效保护,能够最大限度地尊重保障个人权益的基础诉求。

图片来源:视觉中国

界面新闻记者 | 张旭

界面新闻编辑 | 翟瑞民

近期,利用“AI换脸”技术进行视频合成、进而实施诈骗的案件频发,包括网络上出现利用AI技术侵犯明星肖像权等情况,如何规范人工智能技术应用和发展引起社会广泛关注。

2023年7月13日,国家网信办等7部门联合对外发布《生成式人工智能服务管理暂行办法》(简称《办法》)》,自2023年8月15日起施行。

国家网信办有关负责人表示,近年来,生成式人工智能技术快速发展,为经济社会发展带来新机遇的同时,也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题,如何统筹生成式人工智能发展和安全引起各方关注。出台《办法》,旨在促进生成式人工智能健康发展和规范应用,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益。

生成式人工智能又称AIGC或生成式AI,是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术,被视为数字化时代一种颠覆性的技术创新。界面新闻注意到,此次出台的《办法》对个人信息保护,防范侵权等方面作出明确规定。

《办法》明确,提供和使用生成式人工智能服务,应当遵守法律、行政法规,尊重社会公德和伦理道德。在算法设计、训练数据选择、模型生成和优化、提供服务等过程中,采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视;尊重他人合法权益,不得危害他人身心健康,不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。

北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括向界面新闻表示,从个人信息保护角度来看,《办法》涉及的相关规定,事实上是根据国家网络安全法、数据安全法以及个人信息保护法等法律法规,针对人工智能技术逻辑和产业特点所做出的专门设计。

“得益于国家和社会层面的公共支持,此次《办法》突出了合法性、安全性和伦理性的三重融合。”吴沈括说。

北京市京师(深圳)律师事务所知识产权主任管巧丽表示,《办法》出台为保护权利人的知识产权等合法权益提供了法律依据,同时对生成式人工智能服务提供者提出了知识产权法律风险防范与合规的要求。

针对个人信息保护,在数据的收集、处理、加工以及删除等各个环节,《办法》也专门设定了相应的服务规定。

《办法》要求,生成式人工智能服务提供者在开展预训练、优化训练等训练数据处理活动时,涉及知识产权的,不得侵害他人依法享有的知识产权;涉及个人信息的,应当取得个人同意或者符合法律、行政法规规定的其他情形。

在提供服务过程中,服务提供者应当依法承担网络信息内容生产者责任,履行网络信息安全义务。涉及个人信息的,依法承担个人信息处理者责任,履行个人信息保护义务。

《办法》规定,不得收集非必要个人信息,不得非法留存能够识别使用者身份的输入信息和使用记录,不得非法向他人提供使用者的输入信息和使用记录。此外,提供者应当依法及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求。

在监督检查环节,《办法》还规定,参与安全评估和监督检查的相关机构和人员对在履行职责中知悉的国家秘密、商业秘密、个人隐私和个人信息应当保密,不得泄露或者非法向他人提供。

“这体现了个人信息在人工智能语境下全生命周期的有效保护,能够最大限度地尊重保障个人权益的基础诉求。”吴沈括表示,《办法》涉及的防止个人信息侵权的制度核心中,强调的是以知情同意为原则,同时能够兼容个人信息保护法所规定的六种例外情形。“为人工智能产业发展和必要的数据资源的获取带来制度性空间。”吴沈括说。

不过,吴沈括也建议,在《办法》施行过程当中,无论是在算力的共享、算力资源的共享,还是公共数据的开放利用等方面,决策部门应出台更多配套政策和规定来予以支持落地,为产业发展提供更好地公共支持。其次,在安全评估、算法备案、内容审核等业务合规方面期待引入更多细化指引规则。

除此之外,服务提供者针对数据平台内容进行合规治理时,管巧丽建议要做好知识产权侵权风险防范。

她表示,建立必要的版权审查和过滤机制。对平台内已存在的数据内容要进行筛查、过滤及比对,及时处理涉嫌数据安全内容。同时建立人工复核制度,在平台内部对数据安全内容的审核要提高到相对重要的上位制度高度。

另外,鉴于人工智能服务生产的作品形态具有多元性,管巧丽建议设置多重投诉应对措施,减小侵权作品的传播范围,降低构成侵权之可能性。

“也要尽最大努力取得权利人的授权。”管巧丽表示,服务提供者取得权利人的授权这是最直接有效的措施,亦是首要的合规方式,平台可以通过与权利人签订授权许可形成平台自有素材库。或者平台开辟创作者专区,鼓励各类原创者通过有偿方式在平台上上传原创素材,其他用户在使用之前通过有偿方式取得除人身性权利外的其他各种权益授权或转让。

未经正式授权严禁转载本文,侵权必究。