9月16日，國(guó)內(nèi)首次針對(duì)AI大模型的實(shí)網(wǎng)眾測(cè)檢驗(yàn)結(jié)果在第22屆中國(guó)網(wǎng)絡(luò)安全年會(huì)（暨國(guó)家網(wǎng)絡(luò)安全宣傳周網(wǎng)絡(luò)安全協(xié)同防御分論壇）重磅揭曉?；顒?dòng)共動(dòng)員559名白帽子，對(duì)國(guó)內(nèi)15款大模型及應(yīng)用產(chǎn)品進(jìn)行了漏洞測(cè)試。

此次活動(dòng)由中央網(wǎng)信辦網(wǎng)絡(luò)安全協(xié)調(diào)局指導(dǎo)，國(guó)家計(jì)算機(jī)網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心主辦，相關(guān)平臺(tái)和基地提供技術(shù)支持?；顒?dòng)發(fā)布了國(guó)內(nèi)首次針對(duì)AI大模型的實(shí)網(wǎng)眾測(cè)檢驗(yàn)結(jié)果，共動(dòng)員559名白帽子，對(duì)國(guó)內(nèi)15款大模型及應(yīng)用產(chǎn)品進(jìn)行了全面漏洞測(cè)試。測(cè)試產(chǎn)品涵蓋基礎(chǔ)大模型、垂域大模型、智能體、模型開發(fā)平臺(tái)等多種類型，既包含單模態(tài)大模型，也涵蓋多模態(tài)大模型，具有廣泛的代表性。

從結(jié)果來(lái)看，騰訊混元大模型、百度文心一言、阿里巴巴通義App、智譜華章智譜清言等產(chǎn)品發(fā)現(xiàn)的漏洞風(fēng)險(xiǎn)較少，展現(xiàn)出較高安全防護(hù)水平?；顒?dòng)還涌現(xiàn)出梁宏宇、馬寶新、劉銘等一批優(yōu)秀白帽子，他們涵蓋網(wǎng)安企業(yè)人才、科研院校師生及社會(huì)人士，從外部攻擊者視角完成多維度實(shí)戰(zhàn)化測(cè)試，即便在廠商防護(hù)下仍挖掘出高危及嚴(yán)重等級(jí)漏洞，彰顯專業(yè)能力與奉獻(xiàn)情懷。

值得關(guān)注的是，本次活動(dòng)累計(jì)發(fā)現(xiàn)各類安全漏洞281個(gè)，其中大模型特有漏洞177個(gè)，占比超60%，凸顯AI大模型面臨傳統(tǒng)安全領(lǐng)域之外的新興風(fēng)險(xiǎn)。典型漏洞風(fēng)險(xiǎn)包括部分產(chǎn)品不當(dāng)輸出類漏洞危害嚴(yán)重、信息泄露類漏洞多發(fā)、提示注入類漏洞普遍、無(wú)限制消耗類攻擊防護(hù)不足及傳統(tǒng)安全漏洞仍存等。鑒于AI大模型用戶量大、使用率高，此類漏洞若被惡意利用，將嚴(yán)重影響國(guó)內(nèi)AI大模型產(chǎn)品生態(tài)。

對(duì)此，活動(dòng)明確AI大模型安全治理需各方發(fā)力，持續(xù)加強(qiáng)安全防護(hù)措施應(yīng)對(duì)各類漏洞風(fēng)險(xiǎn)，加快制定AI漏洞分類分級(jí)及場(chǎng)景風(fēng)險(xiǎn)等級(jí)標(biāo)準(zhǔn)，通過(guò)眾測(cè)模式匯聚社會(huì)白帽力量構(gòu)筑共治生態(tài)，加強(qiáng)內(nèi)生安全治理并將安全融入AI系統(tǒng)全生命周期。

隨著AI應(yīng)用場(chǎng)景的不斷擴(kuò)展，新的漏洞和攻擊手法將不斷涌現(xiàn)，AI大模型安全治理工作任重道遠(yuǎn)，亟需各方共同努力。相關(guān)負(fù)責(zé)人表示，未來(lái)，針對(duì)大模型面臨的各類漏洞風(fēng)險(xiǎn)，需持續(xù)加強(qiáng)安全防護(hù)措施。同時(shí)要加快制定AI漏洞分類分級(jí)標(biāo)準(zhǔn)，并按應(yīng)用場(chǎng)景劃分風(fēng)險(xiǎn)等級(jí)。還可通過(guò)眾測(cè)模式廣泛匯聚社會(huì)白帽力量，構(gòu)筑AI共治生態(tài)。此外，加強(qiáng)內(nèi)生安全治理也尤為關(guān)鍵，需將安全融入到AI系統(tǒng)全生命周期，從源頭筑牢安全基石。

來(lái)源：都市時(shí)報(bào)

【聲明】如需轉(zhuǎn)載麗江市融媒體中心名下任何平臺(tái)發(fā)布的內(nèi)容，請(qǐng) 點(diǎn)擊這里 與我們建立有效聯(lián)系。