半导体育官网登录入口网页版

在談及前沿大模型帶來的風(fēng)險(xiǎn)時(shí)，姚期智表示，“大家關(guān)心AI安全治理的很大一部分原因是ChatGPT帶來的大模型的問題。信息安全有風(fēng)險(xiǎn)，大模型幻覺產(chǎn)生的錯(cuò)誤信息可以誤導(dǎo)人類。同時(shí)，AI控制更多基礎(chǔ)設(shè)施已成為一個(gè)不可改變的趨勢(shì)，不安全的AI所帶來的危險(xiǎn)，會(huì)真正變成生存的危機(jī)。那么我們?cè)撊绾喂芸厮?？?/p>

其中，姚期智分享的內(nèi)容為《人工智能安全治理的研究走向》。他首先介紹了前沿大模型帶來的信息、物理、生物智能風(fēng)險(xiǎn)與生存風(fēng)險(xiǎn)，引申出AI系統(tǒng)安全與如何確保人的利益等問題，提出從技術(shù)和路徑的維度進(jìn)行分類治理。以大模型時(shí)代的數(shù)據(jù)安全研究舉例，他指出大模型會(huì)記住隱私數(shù)據(jù)，而保護(hù)用戶隱私的研究尚處在較原始階段，重要方向是為大模型數(shù)據(jù)安全開發(fā)出一組核心技術(shù)。

此外，姚期智也談及中國(guó)在AI安全治理方面具有的優(yōu)勢(shì)：“我們有完善的實(shí)名制身份驗(yàn)證系統(tǒng)，減少了計(jì)算機(jī)網(wǎng)絡(luò)分布式系統(tǒng)的問題。中國(guó)有很多管控新科技風(fēng)險(xiǎn)的成功經(jīng)驗(yàn)，同時(shí)，數(shù)字化轉(zhuǎn)型、數(shù)據(jù)要素化、數(shù)據(jù)資產(chǎn)入表等都做得很好?！?/p>

姚期智表示，從長(zhǎng)遠(yuǎn)看，AI安全治理不是縫縫補(bǔ)補(bǔ)，他分享了兩個(gè)研究思路：一是讓AI和人類利益對(duì)齊的有益的通用人工智能（Beneficial AGI），在設(shè)計(jì)時(shí)要有數(shù)學(xué)規(guī)律，讓機(jī)器人的一切決定都以人為本，并且機(jī)器人要和人保持交流、能夠和人對(duì)話，了解人的需求到底是什么。另一個(gè)思路是設(shè)計(jì)數(shù)學(xué)上絕對(duì)安全的通用人工智能（Provably Safe AGI），即人類不直接和大模型接觸，只和可證明安全的白盒子交流。

“AI智能作為新的潮流，除了帶來益處，它的安全治理也變得越來越重要，超大型大模型的治理需要盡快研發(fā)出規(guī)范。其次，從學(xué)術(shù)角度來講，安全治理正成為學(xué)術(shù)交叉的新領(lǐng)域，涉及AI、密碼學(xué)、政治、法律、企業(yè)、經(jīng)濟(jì)等，多領(lǐng)域需要合作。第三，構(gòu)建AI安全系統(tǒng)的基礎(chǔ)研究是AI安全治理非常重要的前沿方向?！币ζ谥钦f道。

半导体育官网登录入口网页版7月4日，2024世界人工智能大會(huì)暨人工智能全球治理高級(jí)別會(huì)議在上海開幕。人工智能技術(shù)在治理上將遇到哪些挑戰(zhàn)、實(shí)際運(yùn)用的情況如何，是各界專家學(xué)者關(guān)心的話題。

在“人工智能前沿技術(shù)的治理挑戰(zhàn)與應(yīng)對(duì)措施”主題論壇上，圖靈獎(jiǎng)獲得者、中國(guó)科學(xué)院院士姚期智，聯(lián)合國(guó)副秘書長(zhǎng)、聯(lián)合國(guó)大學(xué)校長(zhǎng)Tshilidzi Marwala，香港科技大學(xué)首席副校長(zhǎng)郭毅可等就人工智能安全治理的話題發(fā)表了主旨演講。

結(jié)合中國(guó)的優(yōu)勢(shì)，姚期智表示可以建立符合中國(guó)國(guó)情的AI治理框架、簡(jiǎn)化中國(guó)AI治理。包括建立AI大模型的分級(jí)體系；建立ID的實(shí)體映射，所有智能機(jī)器都有可以實(shí)名找到的ID；實(shí)現(xiàn)全產(chǎn)業(yè)鏈監(jiān)控AI。