當(dāng)前中國(guó)新一代人工智能正在與實(shí)體經(jīng)濟(jì)深度融合，廣泛應(yīng)用于社會(huì)民生領(lǐng)域。龔克呼吁推進(jìn)AI與網(wǎng)絡(luò)安全融合創(chuàng)新。一方面，人工智能的發(fā)展推動(dòng)了網(wǎng)絡(luò)安全技術(shù)的創(chuàng)新。例如，基于深度學(xué)習(xí)的惡意軟件檢測(cè)、用戶行為分析等新技術(shù)不斷涌現(xiàn)。另一方面，人工智能的自動(dòng)化和智能化特性又可以大大提高網(wǎng)絡(luò)安全管理效率。通過(guò)自動(dòng)化檢測(cè)、響應(yīng)和風(fēng)險(xiǎn)評(píng)估等流程，可以更快地應(yīng)對(duì)網(wǎng)絡(luò)威脅。

目前，AI驅(qū)動(dòng)安全成效初顯。國(guó)家電網(wǎng)有限公司副總信息師王繼業(yè)介紹，國(guó)家電網(wǎng)依托大數(shù)據(jù)平臺(tái)，加強(qiáng)人工智能與網(wǎng)絡(luò)安全的融合，研究基于人工智能的風(fēng)險(xiǎn)異常檢測(cè)方法，開展網(wǎng)絡(luò)安全關(guān)聯(lián)分析、事件處置和調(diào)查溯源，強(qiáng)化網(wǎng)絡(luò)安全威脅監(jiān)測(cè)和應(yīng)急處置，實(shí)現(xiàn)網(wǎng)絡(luò)安全事件的智能響應(yīng)、聯(lián)動(dòng)防御。

他認(rèn)為，人工智能的風(fēng)險(xiǎn)主要來(lái)自兩個(gè)方面：一方面，是人工智能技術(shù)存在弱點(diǎn)和不足，而不是過(guò)于強(qiáng)大，需靠發(fā)展創(chuàng)新去解決；另一方面，是使用者對(duì)人工智能的濫用和惡意使用，以及依賴而非駕馭人工智能。

开云app是莱斯特城赞助商在5日舉行的2024北京網(wǎng)絡(luò)安全大會(huì)上，中國(guó)新一代人工智能發(fā)展戰(zhàn)略研究院執(zhí)行院長(zhǎng)龔克表示，人工智能是先進(jìn)生產(chǎn)力，但遠(yuǎn)未成熟，存在技術(shù)瓶頸和社會(huì)憂慮。

在中央網(wǎng)信辦網(wǎng)絡(luò)安全協(xié)調(diào)局副局長(zhǎng)王營(yíng)康看來(lái)，隨著人工智能技術(shù)發(fā)展，攻擊者可利用人工智能技術(shù)生成網(wǎng)絡(luò)攻擊和網(wǎng)絡(luò)釣魚工具等，網(wǎng)絡(luò)安全從人人對(duì)抗、人機(jī)對(duì)抗逐漸向基于人工智能的攻防對(duì)抗演化。

巴基斯坦NCERT主席阿巴斯·海德爾說(shuō)，大型語(yǔ)言模型(LLM)正在徹底改變網(wǎng)絡(luò)安全形勢(shì)，AI在網(wǎng)絡(luò)安全領(lǐng)域帶來(lái)的既有挑戰(zhàn)，也有機(jī)遇。例如，網(wǎng)絡(luò)罪犯會(huì)使用AI生成具有強(qiáng)欺騙性的網(wǎng)絡(luò)仿冒郵件，但企業(yè)也可以用AI完成威脅檢測(cè)和事件響應(yīng)、處置。

在技術(shù)之外，與會(huì)者呼吁進(jìn)一步提高對(duì)網(wǎng)絡(luò)安全態(tài)勢(shì)的重視，強(qiáng)化體系化安全能力建設(shè)。“數(shù)據(jù)安全是人工智能安全的前提和基礎(chǔ)”，中國(guó)友誼促進(jìn)會(huì)理事長(zhǎng)、國(guó)家網(wǎng)信辦原副主任陳智敏認(rèn)為，要從網(wǎng)絡(luò)安全保衛(wèi)向數(shù)據(jù)安全保衛(wèi)的工作模式拓展，為構(gòu)建與數(shù)字生產(chǎn)力相適應(yīng)的新型生產(chǎn)關(guān)系奠定基礎(chǔ)。

根據(jù)奇安信發(fā)布的《2024人工智能安全報(bào)告》，AI既放大現(xiàn)有網(wǎng)絡(luò)安全威脅，又引入了新型威脅，引發(fā)網(wǎng)絡(luò)安全事件指數(shù)級(jí)增長(zhǎng)。其中，2023年基于AI的深度偽造欺詐暴增3000%，基于AI的釣魚郵件數(shù)量增長(zhǎng)了1000%。

AI大模型能否解決問題？奇安信董事長(zhǎng)齊向東說(shuō)，AI大模型不是萬(wàn)能鑰匙。做好“AI驅(qū)動(dòng)安全”至少需要具備三大條件：其一，高質(zhì)量的訓(xùn)練數(shù)據(jù)；其二，縱深防御的內(nèi)生安全體系；其三，設(shè)備、體系具有統(tǒng)一的輸入輸出標(biāo)準(zhǔn)。