博狗官网登录

北京首都在線與甘肅省慶陽市簽訂人工智能產(chǎn)業(yè)合作框架協(xié)議；百度智能云與成都高新區(qū)簽訂戰(zhàn)略合作簽約儀式，打造大模型產(chǎn)業(yè)……

國家級人工智能訓(xùn)練場落戶貴州貴陽；貴州省與深圳市簽訂算力協(xié)同發(fā)展戰(zhàn)略合作協(xié)議；華為云計算與貴安新區(qū)合作打造全球領(lǐng)先的智算中心；華為云盤古、訊飛星火兩個基礎(chǔ)大模型啟動在貴州產(chǎn)業(yè)化項目；貴州與浙江聯(lián)合打造文旅宣傳虛擬數(shù)字人“杭小憶”……

GPT-3是在2020年發(fā)布的，很多人也許會問，更新的模型能耗如何呢？因為近年來不少AI科技公司不再公布訓(xùn)練細(xì)節(jié)，比如用了什么硬件、耗時多久，這使得能耗計算變得困難。

波士頓咨詢集團(tuán)曾發(fā)布報告稱，到2030年底，僅美國數(shù)據(jù)中心的用電量預(yù)計就將是2022年的三倍，而這一增幅主要來自AI模型訓(xùn)練和更高頻的AI查詢。

劉興亮同意未來可能面臨的隱憂，如果繼續(xù)無節(jié)制地擴大參數(shù)規(guī)模，并且伴隨著用戶越來越多，而能耗技術(shù)沒有進(jìn)步，耗電將很快成為一個問題。但與此同時，他也作出了比較樂觀的展望，認(rèn)為可以通過技術(shù)進(jìn)一步降低能耗。

北京、貴州、甘肅慶陽等多地紛紛面向企業(yè)、高校、科研機構(gòu)等發(fā)放“算力券”，降低使用算力的成本，來支持人工智能產(chǎn)業(yè)發(fā)展。

我國在電力方面具有優(yōu)勢，已建成全球規(guī)模最大的電力供應(yīng)系統(tǒng)和清潔發(fā)電體系，其中，水電、風(fēng)電、光伏、生物質(zhì)發(fā)電和在建核電規(guī)模多年位居世界第一。

而在供應(yīng)方面，電力問題涉及能源、基建、政策、技術(shù)等多個方面，難以通過簡單的“有”或“沒有”“充足”或“不充足”來一言以蔽之。更多樣化的能源組合、電力技術(shù)革新、國家調(diào)控等都將有助于應(yīng)對這個問題。

當(dāng)下人工智能大模型的競爭，頗像一場“算力軍備競賽”。在規(guī)模效應(yīng)(Scaling Law)的驅(qū)動下，各公司通過不斷增加模型參數(shù)和數(shù)據(jù)量，期待實現(xiàn)“大力出奇跡”，相應(yīng)地，算力需求也成倍增加。

近年來，人工智能帶來的能耗問題引發(fā)廣泛討論，而我國早在2021年就開始布局“東數(shù)西算”，這無疑極具前瞻性，也大大助力了我國在此輪算力競賽中占得優(yōu)勢。

該如何理解這個耗電量？這相當(dāng)于美國約121個家庭一整年的用電量。也曾有專家打了這么一個比方，大概相當(dāng)于3000輛特斯拉電動汽車共同開跑，每輛車跑20萬英里。

比如，國際能源署(IEA)對清潔能源能起到的作用就相當(dāng)樂觀，其在一份報告中指出，預(yù)計到2026年底，包括可再生能源和核能在內(nèi)的低碳能源將占全球發(fā)電量的46%，并可滿足所有額外需求增長，其中就包括用電需求將翻番的人工智能。

根據(jù)公開資料，2023年，美國全口徑凈發(fā)電量為41781.71億千瓦時(1千瓦時=1度)，以ChatGPT每天耗電50萬度計算，按一年365天，耗電量約為18250萬度，這也只占全美發(fā)電量的約0.0044%。

去年，貴州部署智算芯片達(dá)8萬張，總算力規(guī)模增長28.8倍。貴州的目標(biāo)是，面向東部模型訓(xùn)練，提供低成本、高品質(zhì)、易使用的算力服務(wù)。

以GPT-3的訓(xùn)練為例，GPT-3有1750億個參數(shù)，據(jù)估計，訓(xùn)練過程使用了大約1287兆瓦時(也就是128.7萬度)的電力。

在人工智能飛速發(fā)展的背后，能源消耗問題也日益凸顯，成為業(yè)內(nèi)關(guān)注的焦點。甚至有人提出，“AI的盡頭是算力，而算力的盡頭是電力”。

工信部信息通信經(jīng)濟(jì)專家委員會委員劉興亮也表示，科技大佬預(yù)言AI“缺電”，可能是想讓大家重視起這個問題，這只說明，AI確實耗電，電力成本也確實很高，但是目前能源問題還沒有到影響AI發(fā)展的程度。

此外，有運營商已經(jīng)面向普通消費者推出了“算力卡”。相關(guān)業(yè)務(wù)負(fù)責(zé)人表示，未來，算力服務(wù)也會成為像流量、寬帶一樣的大眾化產(chǎn)品。

國際能源署(IEA)在今年1月的一份報告中曾表示，ChatGPT響應(yīng)一個請求平均耗電2.9瓦時——相當(dāng)于將一個60瓦的燈泡點亮略少于三分鐘。

因此，引導(dǎo)數(shù)據(jù)中心向西部資源豐富地區(qū)聚集，既能推動西部地區(qū)數(shù)據(jù)中心低碳、綠色、可持續(xù)發(fā)展，又能滿足東部地區(qū)的算力需求。

AI當(dāng)然不只ChatGPT，但它的耗能數(shù)據(jù)可以作為一個切口?？梢钥闯?，盡管隨著AI算力的迅猛增長，電力需求也持續(xù)增長，但目前其在整體電力消耗中所占比例較小。

2022年2月，國家發(fā)展改革委等部門聯(lián)合印發(fā)通知，同意在內(nèi)蒙古、貴州、甘肅、寧夏等8地啟動建設(shè)國家算力樞紐節(jié)點，并規(guī)劃了10個國家數(shù)據(jù)中心集群?！皷|數(shù)西算”工程正式全面啟動。

他表示，目前AI發(fā)展的路線是不斷增加模型參數(shù)、疊加芯片，如果繼續(xù)按照這個路線發(fā)展，將來消耗的電力將更多，從這個角度來講，未來AI的能耗問題可能會越來越突出，尤其是對于電力供應(yīng)本身比較緊張的國家。但就目前而言，能源還沒有成為限制AI發(fā)展的因素。

而且，數(shù)據(jù)中心建到青海，不僅能解決電力問題，還能大大降低散熱能耗。青海氣候干燥、冷涼，數(shù)據(jù)中心可實現(xiàn)全年314天自然冷卻，制冷用電比全國平均水平低40%左右。

總而言之，盡管短期內(nèi)還不會出現(xiàn)AI缺電的問題，但相關(guān)的討論確實給大力發(fā)展AI的世界提了個醒——隨著AI大模型規(guī)模和數(shù)量的高速增長，未來可能面臨的能源需求激增不容忽視。

當(dāng)下訓(xùn)練AI大模型使用的主流算力芯片英偉達(dá)H100芯片，一張最大功耗為700瓦，這意味著運行一小時就要耗電0.7度。而此前有消息稱，OpenAI訓(xùn)練GPT-5，需要數(shù)萬張H100芯片。

讓我們做一道簡單的數(shù)學(xué)題，GPT-3訓(xùn)練耗電約128萬度，ChatGPT每天為響應(yīng)需求耗電50萬度，GPT-3在訓(xùn)練階段消耗的電量，甚至無法支撐ChatGPT運行3天。

一方面，數(shù)據(jù)中心的高效運轉(zhuǎn)離不開大量電力支撐；另一方面，電力系統(tǒng)的平穩(wěn)高效運行也離不開算力支撐。統(tǒng)籌算力電力協(xié)同布局，有助于促進(jìn)風(fēng)光綠電消納和數(shù)據(jù)中心零碳發(fā)展。

博狗官网登录他表示，人工智能計算的約束條件是可預(yù)測的，“我在一年多前就預(yù)測過芯片短缺，下一個短缺的將是電力。我認(rèn)為明年將沒有足夠的電力來運行所有的芯片?！?/p>

AI算力需要消耗大量電力，青海的綠電又用不完，如果把數(shù)據(jù)中心搬到青海，將“綠電”變?yōu)椤熬G算”，將綠色“瓦特”變?yōu)榫G色“比特”，豈不是雙向奔赴？

然而，人工智能模型訓(xùn)練推理這樣高時延業(yè)務(wù)場景，正好是“東數(shù)西算”的“舒適區(qū)”，“東數(shù)西訓(xùn)”成為“東數(shù)西算”的典型應(yīng)用場景。

另外，據(jù)美媒報道，ChatGPT每天響應(yīng)約2億個需求，消耗超過50萬度電力，相當(dāng)于1.7萬個美國家庭平均一天的用電量。

但GPT-3的能耗可以作為一個參考，GPT-3模型參數(shù)為1750億，而GPT-4曾被曝包含1.8萬億參數(shù)，隨著參數(shù)的翻倍，能耗也會大幅增加。

一項發(fā)表于《科學(xué)》期刊的研究指出，在2010年至2018年間，全球數(shù)據(jù)中心的運算量增長了550%，存儲空間增長了2400%，但耗電量僅增長6%。

我們當(dāng)然要看到，客觀上，由于網(wǎng)絡(luò)時延等限制存在，并非所有算力服務(wù)場景都適用“東數(shù)西算”。比如自動駕駛、證券交易等低時延業(yè)務(wù)場景就需要就近計算。