“誰能提前抓住AI變革的機遇，誰就能掌握網(wǎng)絡(luò)空間安全的主動權(quán)?！饼R向東判斷，當前網(wǎng)絡(luò)安全格局正在被顛覆重構(gòu)，但這種顛覆重構(gòu)不僅帶來新的安全挑戰(zhàn)，也為網(wǎng)絡(luò)安全行業(yè)帶來前所未有的戰(zhàn)略機遇。

但他也直言，我們不要被AI可能引發(fā)的數(shù)據(jù)泄露所嚇倒，應(yīng)該要擁抱AI，要把安全的問題交給安全公司，相信專業(yè)人辦專業(yè)的事。網(wǎng)絡(luò)安全公司要全面擁抱AI，利用AI實現(xiàn)安全能力的躍升。

此外，需要體系化的網(wǎng)絡(luò)安全建設(shè)，為AI發(fā)揮效率創(chuàng)造平臺。齊向東稱，網(wǎng)絡(luò)安全防護有賴于體系化協(xié)同。當前，通過AI賦能內(nèi)生安全體系，不僅可以實現(xiàn)網(wǎng)絡(luò)安全系統(tǒng)和客戶業(yè)務(wù)系統(tǒng)的完美融合，更能實現(xiàn)網(wǎng)絡(luò)安全響應(yīng)從滯后到實時的大躍升，全時段瞬時響應(yīng)成為可能，也為AI實時發(fā)揮防護功能和學習最新技術(shù)提供了真實海量場景。

在齊向東看來，做好“AI驅(qū)動安全”至少需要具備三大條件，一是高質(zhì)量的訓練數(shù)據(jù)，二是縱深防御的內(nèi)生安全體系，三是設(shè)備、體系具有統(tǒng)一的輸入輸出標準。

由此，齊向東也提醒說，AI大模型不是萬能鑰匙。尤其是在當前“百模大戰(zhàn)”的狀態(tài)下，只有高質(zhì)量發(fā)展的大模型，才能真正帶來指數(shù)級能力躍升，激發(fā)網(wǎng)絡(luò)安全行業(yè)的新質(zhì)生產(chǎn)力。

一項對IT行業(yè)領(lǐng)導者進行的關(guān)于ChatGPT等大模型的調(diào)查顯示，安全性是受訪者最關(guān)心的問題，71%的受訪者認為生成式人工智能會給企業(yè)數(shù)據(jù)安全帶來新的風險。

5日，以“AI驅(qū)動安全”為主題的2024全球數(shù)字經(jīng)濟大會數(shù)字安全高層論壇暨北京網(wǎng)絡(luò)安全大會戰(zhàn)略峰會在北京國家會議中心舉行，全國工商聯(lián)副主席、奇安信集團董事長齊向東在會上發(fā)表主旨演講稱，AI驅(qū)動安全是大勢所趨，未來網(wǎng)絡(luò)攻防就是得AI者得天下。

具體而言，既要有足夠多的基礎(chǔ)安全數(shù)據(jù)用于訓練安全大模型，也要有足夠貼近實戰(zhàn)的一手原始語料用于大模型推理。齊向東認為，基于這種全而新的高質(zhì)量數(shù)據(jù)訓練出來的大模型，精確性和實用性才能遠超未優(yōu)化的通用模型。

“訓練好的安全大模型，能否取得好效果取決于設(shè)備和體系是否有統(tǒng)一的標準?！饼R向東認為，標準的統(tǒng)一至少包括兩個方面，一方面是數(shù)據(jù)輸入標準的統(tǒng)一，讓AI能通過標準系統(tǒng)讀懂“多國語言”，完成體系化分析。另一方面是指令輸出標準的統(tǒng)一，讓AI實現(xiàn)跨設(shè)備、跨系統(tǒng)的能力協(xié)同和全局聯(lián)動。(完)

他在接受中新網(wǎng)等媒體采訪時提到了AI落地過程中的安全風險問題。例如，一旦對AI“傾囊相授”、對AI發(fā)問時“掏心窩子”，其具備的解決問題能力會越來越強，涉及到相關(guān)知識產(chǎn)權(quán)、商業(yè)機密等方面的內(nèi)容可能會被競爭對手通過AI竊取，造成數(shù)據(jù)泄露的風險。

另一方面，無論是訓練還是使用，必須把AI接入到公司內(nèi)部數(shù)據(jù)中，但大部分AI又是從外部“領(lǐng)養(yǎng)”，是否存在“后門”、是否會被人“投毒”，都無從可知，這也是數(shù)據(jù)安全帶來的潛在風險，若長期使用被“投毒”后的AI給出的業(yè)務(wù)決策，可能就會把業(yè)務(wù)帶偏。

面對人工智能時代新的網(wǎng)絡(luò)安全態(tài)勢，2024年政府工作報告提到，加強重點領(lǐng)域安全能力建設(shè)，其中就包括“提高網(wǎng)絡(luò)、數(shù)據(jù)等安全保障能力”。

澳门星际真正网站中新網(wǎng)北京6月5日電 (記者 夏賓)當前，各行各業(yè)網(wǎng)絡(luò)化、數(shù)字化、智能化轉(zhuǎn)型加速，以數(shù)據(jù)為關(guān)鍵要素的新產(chǎn)業(yè)，以人工智能為關(guān)鍵技術(shù)的新場景，面臨的安全挑戰(zhàn)更加復(fù)雜，各類攻擊威脅與日俱增。

據(jù)奇安信發(fā)布的《2024人工智能安全報告》，AI既放大現(xiàn)有網(wǎng)絡(luò)安全威脅，又引入了新型威脅，引發(fā)網(wǎng)絡(luò)安全事件指數(shù)級增長。其中，2023年基于AI的深度偽造欺詐暴增3000%，基于AI的釣魚郵件數(shù)量增長了1000%。