6 月 20 日消息，近年來，代碼大模型已成為企業(yè)研發(fā)人員輔助編程必備助手，能夠生成、翻譯、補(bǔ)全代碼，幫助定位和修復(fù)錯(cuò)誤。然而，代碼大模型背后隱藏的風(fēng)險(xiǎn)挑戰(zhàn)還有待討論。

中國(guó)信息通信研究院（以下簡(jiǎn)稱“中國(guó)信通院”）依托中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA），聯(lián)合業(yè)內(nèi)近 30 家單位共同編制了《代碼大模型安全風(fēng)險(xiǎn)防范能力要求及評(píng)估方法》規(guī)范（簡(jiǎn)稱“規(guī)范”），聚焦代碼大模型的安全能力，從基礎(chǔ)功能出發(fā)，評(píng)估代碼大模型的基礎(chǔ)能力和安全風(fēng)險(xiǎn)防范能力。

2024 年 6 月 18 日，規(guī)范第三次研討會(huì)成功舉辦，對(duì)規(guī)范內(nèi)容做出進(jìn)一步的完善和修訂，現(xiàn)已完成定稿。

附部分參編單位如下（排名不分先后）：

• 中國(guó)信息通信研究院

• 北京百度網(wǎng)訊科技有限公司

• 科大訊飛股份有限公司

• 螞蟻科技集團(tuán)股份有限公司

• 中國(guó)郵儲(chǔ)銀行

• 中國(guó)民生銀行

• 中債金科信息技術(shù)有限公司

• 交通銀行

• 華夏銀行

• 龍盈智達(dá)（北京）科技有限公司

• 北京市商湯科技開發(fā)有限公司

• 阿里云計(jì)算有限公司

• 北京大學(xué)

• 小米移動(dòng)軟件有限公司

• 維沃移動(dòng)通信有限公司

• 海信視像科技股份有限公司

• 浪潮軟件科技有限公司

• 北京云起無垠科技有限公司

• 浙江大學(xué)濱江研究院

• 廣東拓思軟件科學(xué)園有限公司

• 浙江御安信息技術(shù)有限公司

• 萬商天勤（上海）律師事務(wù)所

• 深圳開源互聯(lián)網(wǎng)安全技術(shù)有限公司

據(jù)介紹，規(guī)范的制定旨在全面評(píng)估代碼大模型在安全風(fēng)險(xiǎn)防范方面的能力，通過分析和測(cè)試，確保模型在各個(gè)關(guān)鍵環(huán)節(jié)的安全性能。

本規(guī)范的評(píng)估不僅包括代碼大模型的核心功能，也涵蓋了與之相關(guān)的多個(gè)細(xì)分領(lǐng)域，如數(shù)據(jù)集、算法、模型、網(wǎng)絡(luò)以及服務(wù)等。

根據(jù)評(píng)估結(jié)果，規(guī)范將確定代碼大模型的安全能力級(jí)別，為模型的進(jìn)一步優(yōu)化和安全加固提供指導(dǎo)，同時(shí)也為用戶從安全性角度提供選型依據(jù)。

目前，中國(guó)信通院正式啟動(dòng)首輪代碼大模型安全風(fēng)險(xiǎn)防范能力試評(píng)估工作，報(bào)名將于 8 月底截止，預(yù)計(jì)年底發(fā)布評(píng)估結(jié)果。

廣告聲明：文內(nèi)含有的對(duì)外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，所有文章均包含本聲明。

投訴水文 我要糾錯(cuò)

總結(jié)

以上是生活随笔為你收集整理的代码大模型安全规范正式定稿：百度阿里小米 vivo 等参与，中国信通院启动首轮评估的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。