大模型應(yīng)用面臨安全挑戰(zhàn) 齊向東建議五個關(guān)鍵筑牢AI安全底線

　　中新網(wǎng)福州4月29日電 (記者 龍敏)面對大模型應(yīng)用的挑戰(zhàn)，全國政協(xié)委員、全國工商聯(lián)副主席、奇安信集團(tuán)董事長齊向東29日在參加第八屆數(shù)字中國建設(shè)峰會時指出，需抓住“接入放心用”“權(quán)限強(qiáng)管控”“嚴(yán)把內(nèi)容關(guān)”“杜絕新隱患”“運(yùn)營可閉環(huán)”五個關(guān)鍵，筑牢人工智能的安全底線，為千行百業(yè)抓住人工智能新機(jī)遇，吃下一顆“定心丸”。

　　安全也是硬道理

　　當(dāng)前，人工智能大模型應(yīng)用迎來大爆發(fā)，從直接部署的基本應(yīng)用、特定場景的增強(qiáng)應(yīng)用、垂直領(lǐng)域的專業(yè)應(yīng)用，再到特定領(lǐng)域的深度應(yīng)用，政企機(jī)構(gòu)正在大模型的驅(qū)動下，煥發(fā)出更澎湃的生產(chǎn)力、創(chuàng)造力。

　　然而，新技術(shù)猶如一把雙刃劍，在帶來機(jī)遇的同時，也面臨著諸多挑戰(zhàn)。

　　在齊向東眼中，大模型應(yīng)用的安全挑戰(zhàn)有三重。第一重挑戰(zhàn)是，“小數(shù)據(jù)”一失萬無，“小數(shù)據(jù)安全”成為數(shù)字經(jīng)濟(jì)時代的核心關(guān)切。第二重挑戰(zhàn)是，大模型融通百業(yè)，“裸奔”上線極有可能引發(fā)業(yè)務(wù)停擺的鏈?zhǔn)轿C(jī)。第三重挑戰(zhàn)是，對AI過度依賴，善惡真?zhèn)坞y辨別，一旦大模型決策失準(zhǔn)會引發(fā)“蝴蝶效應(yīng)”。

　　在數(shù)字經(jīng)濟(jì)時代，數(shù)據(jù)如同驅(qū)動發(fā)展的“石油”，人工智能則是“發(fā)動機(jī)”。如今，借助人工智能大模型，企業(yè)通過對設(shè)計、生產(chǎn)等數(shù)據(jù)進(jìn)行加工處理，形成精華“小數(shù)據(jù)”，這些“小數(shù)據(jù)”成為企業(yè)核心競爭力所在。齊向東指出，一旦“小數(shù)據(jù)”被竊取、泄露或篡改，企業(yè)多年積累的優(yōu)勢將瞬間崩塌。

　　筑牢AI安全底線

　　面對這些挑戰(zhàn)，齊向東認(rèn)為，要筑牢AI安全的“五個關(guān)鍵”。首先是接入放心用，構(gòu)建大模型安全“紅域”形成多維度邊界隔離。奇安信創(chuàng)新提出了安全“紅域”概念，將大模型應(yīng)用涉及的數(shù)據(jù)、算力、平臺、應(yīng)用以及域內(nèi)管理的終端及人員劃歸到專屬安全空間中進(jìn)行防護(hù)，并在每個與大模型交互的接入點(diǎn)設(shè)置安全空間控制單元，通過多維度的邊界隔離，為大模型應(yīng)用落地“強(qiáng)基礎(chǔ)、控權(quán)限、審數(shù)據(jù)、攔攻擊、清風(fēng)險”。

　　其次是權(quán)限強(qiáng)管控，以用戶身份為新邊界開展網(wǎng)絡(luò)和數(shù)據(jù)安全防護(hù)。通過堡壘機(jī)、“零信任”等技術(shù)措施，對開發(fā)、訓(xùn)練等相關(guān)特殊人員和終端進(jìn)行增強(qiáng)式安全管控。

　　三是嚴(yán)把內(nèi)容關(guān)，構(gòu)建貫穿大模型全生命周期的內(nèi)容安全治理機(jī)制。齊向東表示，通過強(qiáng)化監(jiān)測審計，實(shí)現(xiàn)對大模型的核心數(shù)據(jù)管控。

　　四是杜絕新隱患，以實(shí)戰(zhàn)為導(dǎo)向加強(qiáng)大模型應(yīng)用安全評估。通過實(shí)戰(zhàn)化評估方法，對大模型安全、大模型內(nèi)容安全、智能體安全、大模型組件安全以及大模型運(yùn)行環(huán)境安全等方向進(jìn)行全面檢測評估，驗證安全策略有效性；構(gòu)建縱深防御與監(jiān)測技術(shù)能力，降低大模型應(yīng)用的數(shù)據(jù)泄露風(fēng)險與業(yè)務(wù)中斷風(fēng)險。

　　五是運(yùn)營可閉環(huán)，做到對安全威脅的實(shí)時監(jiān)測和應(yīng)急處置。齊向東表示，奇安信推出AISOC，把AI的能力嵌入到研判、調(diào)查等安全運(yùn)營工作，實(shí)現(xiàn)了大運(yùn)營與AI的有機(jī)結(jié)合。面對人工智能落地應(yīng)用帶來的多重安全挑戰(zhàn)，要用AI對抗AI，增補(bǔ)面向大模型攻擊及異常行為的檢測手段，實(shí)時監(jiān)測針對大模型的攻擊行為，并實(shí)現(xiàn)高效攔截，形成安全運(yùn)營的閉環(huán)。

　　齊向東說，“我相信，把握好這五個關(guān)鍵，一定能夠確保人工智能大模型應(yīng)用安全落地，發(fā)揮出驅(qū)動數(shù)字經(jīng)濟(jì)發(fā)展的正向價值。”(完)