6 月 20 日消息，近年來，代碼大模型已成為企業(yè)研發(fā)人員輔助編程必備助手，能夠生成、翻譯、補全代碼，幫助定位和修復錯誤。然而，代碼大模型背后隱藏的風險挑戰(zhàn)還有待討論。
中國信息通信研究院（以下簡稱“中國信通院”）依托中國人工智能產業(yè)發(fā)展聯(lián)盟（AIIA），聯(lián)合業(yè)內近 30 家單位共同編制了《代碼大模型安全風險防范能力要求及評估方法》規(guī)范（簡稱“規(guī)范”），聚焦代碼大模型的安全能力，從基礎功能出發(fā)，評估代碼大模型的基礎能力和安全風險防范能力。
2024 年 6 月 18 日，規(guī)范第三次研討會成功舉辦，對規(guī)范內容做出進一步的完善和修訂，現(xiàn)已完成定稿。
附部分參編單位如下（排名不分先后）：
· 中國信息通信研究院
· 北京百度網訊科技有限公司
· 科大訊飛股份有限公司
· 螞蟻科技集團股份有限公司
· 中國郵儲銀行
· 中國民生銀行
· 中債金科信息技術有限公司
· 交通銀行
· 華夏銀行
· 龍盈智達（北京）科技有限公司
· 北京市商湯科技開發(fā)有限公司
· 阿里云計算有限公司
· 北京大學
· 小米移動軟件有限公司
· 維沃移動通信有限公司
· 海信視像科技股份有限公司
· 浪潮軟件科技有限公司
· 北京云起無垠科技有限公司
· 浙江大學濱江研究院
· 廣東拓思軟件科學園有限公司
· 浙江御安信息技術有限公司
· 萬商天勤（上海）律師事務所
· 深圳開源互聯(lián)網安全技術有限公司
據(jù)介紹，規(guī)范的制定旨在全面評估代碼大模型在安全風險防范方面的能力，通過分析和測試，確保模型在各個關鍵環(huán)節(jié)的安全性能。
本規(guī)范的評估不僅包括代碼大模型的核心功能，也涵蓋了與之相關的多個細分領域，如數(shù)據(jù)集、算法、模型、網絡以及服務等。
▲ 代碼大模型安全風險防范能力評估框架
根據(jù)評估結果，規(guī)范將確定代碼大模型的安全能力級別，為模型的進一步優(yōu)化和安全加固提供指導，同時也為用戶從安全性角度提供選型依據(jù)。
目前，中國信通院正式啟動首輪代碼大模型安全風險防范能力試評估工作，報名將于 8 月底截止，預計年底發(fā)布評估結果。
