开源网安参编的《代码大模型安全害处防范能力需求及评定办法》发布

qzmjef · 发表于 2024-8-20 19:51:45

代码大模型在代码生成、代码翻译、代码补全、错误定位与修复、自动化测试等方面为开发人员带来了极重便利的同期，亦带来了对安全危害防范能力的挑战。基于此，中国信通院依托中国人工智能产业发展联盟（AIIA），联合开源网安和百度、蚂蚁集团、阿里云等业内近30家单位一起编制了《代码大模型安全危害防范能力需求及评估办法》规范（以下简叫作“规范”），经多次完善和修订，于近期正式定稿发布。

规范旨在全面评定代码大模型在安全危害防范方面的能力，经过分析和测试，保证模型在各个关键环节的安全性能。本规范的评定不仅包含代码大模型的核心功能，亦涵盖了与之关联的多个细分行业。

代码大模型安全危害防范能力评定框架

做为规范编制者之一，开源网安始终深耕软件安全行业，专注技术创新和标准体系建设推广，截止日前，机构已累计申请发明专利320余项，先后编制了软件供应链安全需求、软件制品开源代码安全评估办法等30余项国家/行业标准。机构早在数年前便起步了AI技术科研和大模型的应用，并在代码审计、软件成份分析、灰盒测试和模糊测试等全线制品上均嵌入了大模型能力，可为用户在知识库检索、代码定位、自动化等方面供给更好的运用体验，帮忙用户提高开发效率，降低综合成本。