摘要

  4月11日,国家互联网信息办公室就《生成式人工智能服务管理办法(征求意见稿)》(简称:《征求意见稿》)公开征求意见,提出生成式人工智能产品提供服务前需申报安全评估和算法备案。  近期,以ChatGPT为代表的生成式人工智能(AIGC)是最为热门的革命性新技术之一。然而,与任何新技术一样,AIGC同样会带来数据安全、隐私风险和算法安全等问题。奇安信安全专家认为,全球范围内发生了多起因使用Chat...

  4月11日,国家互联网信息办公室就《生成式人工智能服务管理办法(征求意见稿)》(简称:《征求意见稿》)公开征求意见,提出生成式人工智能产品提供服务前需申报安全评估和算法备案。

  近期,以ChatGPT为代表的生成式人工智能(AIGC)是最为热门的革命性新技术之一。然而,与任何新技术一样,AIGC同样会带来数据安全、隐私风险和算法安全等问题。奇安信安全专家认为,全球范围内发生了多起因使用ChatGPT导致的数据泄露事件,各国逐步开始重视AIGC数据安全风险的监管审核。《征求意见稿》的发布,意味着国家对AIGC的监管治理已经提上日程。

  《征求意见稿》首先强调了安全评估和算法备案的前提性和必要性。第六条指出,利用生成式人工智能产品向公众提供服务前,应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估,并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。第四条还指出,提供生成式人工智能产品或服务应当遵守法律法规的要求,尊重社会公德、公序良俗,利用生成式人工智能生成的内容应当真实准确,采取措施防止生成虚假信息。

  《征求意见稿》还强调提供者需确保数据安全和个人信息保护合规,尤其是隐私保护。文件提到,用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人,涉及个人信息的,承担个人信息处理者的法定责任,履行个人信息保护义务。在数据安全方面,提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。涉及个人信息的,应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形等等。

  在全球范围内,各国都在逐步重视对于AIGC的监管力度。美国商务部4月11日就相关问责措施正式公开征求意见,包括新人工智能模型在发布前是否应经过认证程序。而意大利、加拿大等国监管机构也先后宣布将关注ChatGPT及其背后公司OpenAI带来的数据安全风险,并将开启监管调查。

  奇安信安全专家认为,《征求意见稿》的发布以及全球范围内对于AIGC的监管力度加强,意味着数据安全和隐私保护已经成为AIGC发展的前提和关键。随着AIGC技术的日益成熟和普及,企业应该更加重视数据安全和隐私保护问题。

  浙江大学国际联合商学院数字经济与金融创新研究中心联席主任、研究员盘和林认为,《征求意见稿》的发布,主要是明确了生成式人工智能先规范再发展的总基调,总体上是为了完善生成式AI的应用环境,为生成式AI在国内应用创造条件。但从另一方面看,当前《征求意见稿》内容还比较简化,部分条款的线条还比较粗,他建议未来需要进一步完善意见稿内容,防止“一管就死、一放就乱”的情况在生成式AI领域出现,在生成式AI的发展和安全有序推进之间找到平衡点。(记者孙奇茹)


华人教育信息订阅号二维码