近期,国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局颁布了《生成式人工智能服务管理暂行办法》(以下简叫作《办法》)。国家网信办相关负责人就《办法》关联问题回答了记者提问。
问:请简要介绍《办法》出台的背景?
答:制定《办法》重点基于以下几个方面的思虑:
一是深入贯彻落实习近平总书记重要指示精神和党中央决策安排的重要措施。习近平总书记在主持召开中共中央政治局会议时指出:“要注重通用人工智能发展,营造创新生态,注重防范危害。”
二是促进生成式人工智能健康发展的迫切需要。随着生成式人工智能技术的快速发展,为经济社会发展带来新机遇的同期,亦产生了传播虚假信息、侵害个人信息权益、数据安全和偏见卑视等问题。《办法》保持目的导向和问题导向,知道了促进生成式人工智能技术发展的详细办法,规定生成式人工智能服务的基本规范。
三是推进实施法律规定的内在需求。制定《办法》,是落实《网络安全法》、《数据安全法》、《个人信息守护法》、《科学技术进步法》相关规定的重要需求,进一步规范数据处理等活动,守护国家安全和社会公共利益,守护百姓、法人和其他组织的合法权益。
问:《办法》的适用范围是什么?
答:《办法》规定,利用生成式人工智能技术向中华人民共和国境内公众供给生成文本、照片、音频、视频等内容的服务,适用本办法。国家对利用生成式人工智能服务从事资讯出版、影视制作、文艺创作等活动另有规定的,从其规定。行业组织、企业、教育和研究公司、公共文化公司、相关专业公司等开发、应用生成式人工智能技术,未向境内公众供给生成式人工智能服务的,不适用本办法的规定。
问:《办法》保持的重点原则是什么?
答:《办法》提出国家保持发展和安全并重、促进创新和依法治理相结合的原则,采取有效办法鼓励生成式人工智能创新发展,对生成式人工智能服务实行包涵审慎和归类分级监管。
问:《办法》中所叫作生成式人工智能技术和生成式人工智能服务供给者指的是什么?
答:《办法》中所叫作生成式人工智能技术,指的是拥有文本、照片、音频、视频等内容生成能力的模型及关联技术;生成式人工智能服务供给者,指的是利用生成式人工智能技术供给生成式人工智能服务(包含通过供给可编程接口等方式供给生成式人工智能服务)的组织、个人。
问:《办法》对促进生成式人工智能健康发展有那些思虑?
答:《办法》在治理对象上,针对生成式人工智能服务。在监管方式上,提出对生成式人工智能服务实行包涵审慎和归类分级监管,需求国家相关主管分部针对生成式人工智能技术特点及其在相关行业和行业的服务应用,完善与创新发展相适应的科学监管方式,制定相应的归类分级监管规则或指引。
在促进发展详细办法上,一是知道鼓励生成式人工智能技术在各行业、各行业的创新应用,生成积极健康、向上向善的优秀内容,探索优化应用场景,构建应用生态体系。
二是支持行业组织、企业、教育和研究公司、公共文化公司、相关专业公司等在生成式人工智能技术创新、数据资源建设、转化应用、危害防范等方面开展协作。
三是鼓励生成式人工智能算法、框架、芯片及配套软件平台等基本技术的自主创新,平等互利开展国际交流与合作,参与生成式人工智能关联国际规则制定。
四是提出推动生成式人工智能基本设备和公共训练数据资源平台建设。促进算力资源协同共享,提高算力资源利用效能。推动公共数据归类分级有序开放,扩展高质量的公共训练数据资源。鼓励采用安全可信的芯片、软件、工具、算力和数据资源。
问:《办法》知道供给和运用生成式人工智能服务应当遵守那些规定?
答:《办法》知道供给和运用生成式人工智能服务应当保持社会主义核心价值观,不得生成煽动颠覆国家政权、推翻社会主义制度,害处国家安全和利益、损害国家形象,煽动分裂国家、破坏国家统一和社会稳定,宣扬恐怖主义、极端主义,宣扬民族仇恨、民族卑视,暴力、淫秽色情,以及虚假有害信息等法律、行政法规禁止的内容;在算法设计、训练数据选取、模型生成和优化、供给服务等过程中,采取有效办法防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等卑视;尊重知识产权、商场道德,保守商场奥密,不得利用算法、数据、平台等优良,实施垄断和不正当竞争行径;尊重他人合法权益,不得害处他人身心健康,不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益;基于服务类型特点,采取有效办法,提高生成式人工智能服务的透明度,加强生成内容的准确性和可靠性。
问:《办法》规定的治理制度重点有那些?
答:《办法》知道生成式人工智能服务供给者应当依法开展预训练、优化训练等训练数据处理活动,运用拥有合法源自的数据和基本模型;触及知识产权的,不得侵害他人依法享有的知识产权;触及个人信息的,应当取得个人同意或符合法律、行政法规规定的其他情形;采取有效办法加强训练数据质量,加强训练数据的真实性、准确性、客观性、多样性。另外,知道了数据标注的关联需求。
问:《办法》重点知道了那些生成式人工智能服务规范?
答:《办法》需求采取有效办法防范未成年人用户过度依赖或沉迷生成式人工智能服务。规定供给者应当根据《互联网信息服务深度合成管理规定》对照片、视频等生成内容进行标识。规定供给者发掘违法内容的,应当即时采取停止生成、停止传输、消除等处置办法并采取模型优化训练等办法进行整改。知道供给者发掘运用者利用生成式人工智能服务从事违法活动的,应当依法依约采取相关处置办法,保留相关记录,并向相关主管分部报告。
问:《办法》对投诉、举报作了那些规定?
答:《办法》规定供给者应当创立健全投诉、举报机制,设置方便的投诉、举报入口,颁布处理流程和反馈时限,即时受理、处理公众投诉举报并反馈处理结果。知道运用者发掘生成式人工智能服务不符合法律、行政法规和本办法规定的,有权向相关主管分部投诉、举报。
源自 | “网信中国”微X公众号
责编 | 杨楚滢
编辑:杨楚滢
源自:“网信中国”微X公众号
|