AI的盡頭是能源嗎能耗挑戰(zhàn)與未來方向

小大

用微信掃描二維碼
分享至好友和朋友圈

關(guān)鍵詞：

2024-11-08 15:34:52 知識分子

AI的盡頭是能源嗎

無論是否支持人工智能的發(fā)展,，我們都不能忽視其能耗問題,。有人擔(dān)心AI發(fā)展過快會對能源市場和環(huán)境造成沖擊,，也有人擔(dān)憂能源產(chǎn)業(yè)進(jìn)步緩慢會成為AI發(fā)展的瓶頸,。AI的盡頭是能源嗎,！

隨著AI的普及,，其在能耗中的占比將逐年提升。為此,，AI研發(fā)企業(yè)紛紛投資能源供應(yīng),。谷歌宣布購買Kairos Power建造的小型模塊化反應(yīng)堆生產(chǎn)的電力，微軟則與星座能源公司達(dá)成協(xié)議,，重啟三里島核電站1號反應(yīng)堆并購買未來20年的電能,。OpenAI首席執(zhí)行官山姆·奧特曼也在今年年初投資了核聚變技術(shù)。

然而,，新的趨勢正在出現(xiàn),。多位業(yè)界人士表示，可以通過軟硬件技術(shù)的提升以及宏觀布局優(yōu)化來降低AI的能耗,，使能源利用更加高效,。更重要的是，AI的進(jìn)步方向不一定更大更強(qiáng),，一些小而美的模型正悄然登場,。

關(guān)于AI的耗電量，一篇報道指出ChatGPT每日耗電量或超50萬千瓦時,，相當(dāng)于1.7萬個美國家庭的能耗,。但也有觀點(diǎn)認(rèn)為這些估算過于夸張。盡管如此,，我們可以進(jìn)行一些定性討論,。例如,，在算法層面，訓(xùn)練階段比推理階段能耗更高,。清華大學(xué)電子工程系主任汪玉團(tuán)隊測試了不同算力芯片的單卡推理功耗，發(fā)現(xiàn)推理階段的功耗基本在300W-500W之間,，而訓(xùn)練階段的功耗則高達(dá)400W-700W,。未來推理功耗有望進(jìn)一步下降,。

大模型訓(xùn)練過程中還存在容錯相關(guān)的額外能耗開銷。Llama 3-405B在為期54天的訓(xùn)練期間共發(fā)生了466次任務(wù)中斷,，約78%由硬件問題引起,，實際算力利用率只有38%左右。不過,，從應(yīng)用場景上看,，用戶推理請求的調(diào)用頻率更高，即使單次調(diào)用能耗低,，總能耗也可能相當(dāng)可觀,。

隨著技術(shù)完善，日常使用AI推理的單次能耗有望下降,。上海數(shù)珩信息科技創(chuàng)始人張繼生介紹,，通過模型壓縮、剪枝,、量化等技術(shù)可以提高AI系統(tǒng)性能并降低能耗,。清華電子院能源電子中心主任李中陽強(qiáng)調(diào)，算力與新能源供電特性匹配是關(guān)鍵,，這需要AI前沿技術(shù)的支持,。

12 全文共 2 頁下一頁

關(guān)閉

AI的盡頭是能源嗎 能耗挑戰(zhàn)與未來方向

相關(guān)新聞

今日熱點(diǎn)

頻道熱點(diǎn)

AI的盡頭是能源嗎能耗挑戰(zhàn)與未來方向