新聞中心

新聞中心

人工智能是耗能大戶(hù),那么“人類(lèi)智能”呢?

2024-03-27

前不久,OpenAI的首席執行官薩姆·奧特曼宣稱(chēng),AI未來(lái)發(fā)展的限制因素將會(huì )是能源,為此急需發(fā)展核聚變。實(shí)際上早在2021年他就向一家核聚變公司投資3.75億美元,該公司近日稱(chēng)其首家發(fā)電廠(chǎng)預計在2028年上線(xiàn)。

計算的能耗問(wèn)題并非第一次引發(fā)關(guān)注了。在區塊鏈和加密貨幣興盛的時(shí)期,就有很多人對區塊鏈的能耗表示過(guò)擔憂(yōu)?,F在雖然熱度略有消退,但能耗依然可觀(guān),比特幣挖礦的年耗能大約相當于荷蘭全國,2024年美國能源部的報告認為美國約0.6%~2.4%的全年能耗用在了加密貨幣上。

目前看來(lái),加密貨幣似乎不太可能無(wú)限增長(cháng),吞沒(méi)整個(gè)電網(wǎng)。但人工智能是否會(huì )走上這條路線(xiàn)呢?此刻ChatGPT每天提供約2億條回答,消耗50萬(wàn)千瓦時(shí)電力(戳此詳細了解→ChatGPT 日耗電超50萬(wàn)度,卡死AI發(fā)展的竟然是能源?),在電網(wǎng)中占比還不大,奧特曼的預測有自吹自擂之嫌。但如果他的預測成真,人工智能的規模和耗能長(cháng)期飛速增長(cháng),那引發(fā)能源危機確實(shí)是有可能的。

圖庫版權圖片,轉載使用可能引發(fā)版權糾紛

人腦到底有多“高效”?

相比之下,傳統的天然智能(人腦)似乎就強多了。但其實(shí),人腦到底多高效,誰(shuí)也說(shuō)不清——因為很難找到比較的基準。

舉個(gè)例子,衡量電腦速度的常用指標是主頻,也即處理器時(shí)鐘每秒能產(chǎn)生多少個(gè)電脈沖,這在很大程度上決定了處理器每秒能完成多少個(gè)基本運算。

如果用這個(gè)標準來(lái)考慮人腦,那么人腦的主頻似乎應該低于一千赫,因為神經(jīng)元發(fā)放的神經(jīng)沖動(dòng)最快能到每秒1000個(gè)峰值,而突觸傳遞訊息最快也需要千分之一秒。一千赫的主頻以電腦標準而言是非??蓱z的,七十年代的第一個(gè)商業(yè)微處理器的主頻就已經(jīng)是它的700倍了,今天主流處理器的主頻隨便都是它的幾百萬(wàn)倍。

這是否意味著(zhù)人腦的運行速度只有當代電腦的百萬(wàn)分之一呢?顯然不是,因為二者在基本架構上存在根本差異。比如說(shuō)人腦的每個(gè)神經(jīng)元往往和上千個(gè)其他神經(jīng)元相連,也即一個(gè)“基本運算”往往要涉及超過(guò)一千個(gè)輸入,這和只能處理三個(gè)輸入-輸出的晶體管完全沒(méi)有可比性。實(shí)際上,就算只限定在電腦內部,不同架構的處理器之間的主頻也不能隨便比較。

那么腦和其他生物器官相比呢?靜息狀態(tài)下人類(lèi)腦的重量約占人體重的2%,但消耗的能量占人體的19%。這聽(tīng)起來(lái)有點(diǎn)夸張,實(shí)際上并沒(méi)有很特別。

肝和脾的重量只比腦大一點(diǎn),消耗能量卻占到了27%。兩腎的重量加起來(lái)只有腦的不到五分之一,但消耗的能量占人體10%,折合腦的一半。心臟的重量同樣是不足腦的五分之一,消耗能量占人體7%,折合腦的三分之一。少數活躍器官消耗大部分能量,本來(lái)就是意料之中的事情,腦在這些器官里只是常規水準。

圖庫版權圖片,轉載使用可能引發(fā)版權糾紛

如今神經(jīng)網(wǎng)絡(luò )成為了人工智能的主流,也提供了一個(gè)比較的新思路:不是進(jìn)行純粹硬件級別的比較,而是把人腦和具體的神經(jīng)網(wǎng)絡(luò )相比。

當然,現在并不存在可以和人腦在功能上相提并論的神經(jīng)網(wǎng)絡(luò ),但僅從規模上看,如果未來(lái)人類(lèi)能解開(kāi)人腦的秘密,那大約1000個(gè)智能體(agent)運行在1000個(gè)GPU上,就可以實(shí)現人腦尺度的模型。每個(gè)智能體需要1千瓦左右的功率,1000個(gè)就需要1兆瓦,是對應人腦的5萬(wàn)倍。(順便說(shuō),此刻全世界的浮點(diǎn)運算力大約能支持500萬(wàn)個(gè)這樣的腦模型。)再次強調,這一比較依賴(lài)于未來(lái)的理論進(jìn)步,此刻的神經(jīng)網(wǎng)絡(luò )依然缺乏可比性。

不管怎樣,人腦看起來(lái)效率確實(shí)是比電腦高。這當然是幾十億年自然選擇累積的產(chǎn)物——原始的神經(jīng)系統一定是受制于能量的,隨著(zhù)能量效率的提升,腦的出現才成為可能。不過(guò),此刻的人腦不一定就抵達了理論的極限。

人腦一定是“最優(yōu)解”嗎?

關(guān)于演化的一個(gè)常見(jiàn)誤解是它必定能產(chǎn)出最優(yōu)解。這個(gè)誤解有多重意義:

第一,一般意義上的最優(yōu)解是不存在的,所有的優(yōu)劣判斷都只有在給定的環(huán)境下才有得談,而環(huán)境時(shí)刻在發(fā)生改變。

第二,就算在一個(gè)穩定的環(huán)境下,全局的最優(yōu)解也未必可以抵達。演化在絕大多數情況下都是漸變和短視的,往往會(huì )被困在局部最優(yōu)點(diǎn),就像是一個(gè)堅持每一步都必須是上山的登山者,最后可能會(huì )停留在一個(gè)小山包上而無(wú)法抵達真正的最高峰。

第三,演化的速度和選擇壓成正比,當選擇壓不大時(shí),抵達局部的最優(yōu)解也需要漫長(cháng)的時(shí)間,沒(méi)有理由認為此刻的人腦就已經(jīng)登頂了。

第四,演化里有海量的偶然因素,這些偶然因素的重要性至今沒(méi)有定論,但阻止一個(gè)最優(yōu)解的實(shí)現應該還是足夠的。

一些AI理論家對于人腦是否抵達了神經(jīng)網(wǎng)絡(luò )的能量效率極限非常關(guān)心,因為這一事實(shí)決定了通用人工智能(AGI)的遠期發(fā)展方向:如果人腦距離理論極限還很遠,那么AGI未來(lái)就可以超越人腦,引發(fā)技術(shù)的加速進(jìn)步,甚至可能導致技術(shù)奇點(diǎn)的誕生。

但如果人腦就是極限,那AGI就會(huì )嚴重受限于此刻人類(lèi)的能量產(chǎn)出,起飛速度就會(huì )非常緩慢,奇點(diǎn)到來(lái)的可能性也會(huì )大幅降低,也意味著(zhù)模擬人腦會(huì )成為實(shí)用AGI的唯一路線(xiàn)。

不過(guò)截至現在,論爭雙方都缺乏實(shí)質(zhì)性的證據。有可能AI領(lǐng)域的未來(lái)進(jìn)展會(huì )證明神經(jīng)網(wǎng)絡(luò )這條路線(xiàn)其實(shí)是死路,真正的AGI來(lái)自其他方向,那樣的話(huà)這些討論也就失去意義了。

圖庫版權圖片,轉載使用可能引發(fā)版權糾紛

無(wú)論如何,糾結計算效率是人類(lèi)文明的巨大進(jìn)步,因為拋開(kāi)神經(jīng)網(wǎng)絡(luò )的限定,計算本身距離極限還很遠。這和人類(lèi)過(guò)去掌控的幾乎所有自然力都截然不同。

你要抬起多少貨物就要施加多少力,要讓車(chē)有多少速度就要給它多少動(dòng)能。操縱實(shí)體物質(zhì)都有最基本的保底能量需求,可供節約的余地并不大,此刻人類(lèi)最低效的動(dòng)力來(lái)源基本上也已經(jīng)有百分之十幾了,留下的改進(jìn)空間不足十倍。這些空間并非不重要,它們或許足以扭轉此刻我們遭遇的氣候危機,但遠不足以支持一個(gè)無(wú)限增長(cháng)的文明。

但是計算所操縱的并非實(shí)體,而是信息。計算所消耗的能量確實(shí)也有理論下限,但小到微乎其微,在室溫下這一極限大約是2.9 × 10^-21焦耳。因此,這個(gè)領(lǐng)域的進(jìn)展是破天荒的。

1951年的 UNIVAC I 消耗一焦耳能量可以完成0.015次運算,而2022年的超算“亨利”消耗同樣能量可以完成650億次運算,七十年來(lái)已經(jīng)提升了十幾個(gè)數量級,但距離室溫極限還有十個(gè)數量級。

如果放棄室溫這一限定,效率還可進(jìn)一步提升。計算的能耗下限和環(huán)境溫度成正比,一個(gè)高度發(fā)達的技術(shù)文明的絕大部分運算很可能會(huì )在宇宙空間里進(jìn)行,以微波背景輻射的溫度2.7K作為下限的基準。

如果一個(gè)文明存在的時(shí)間足夠漫長(cháng),它甚至可以選擇等待宇宙膨脹冷卻來(lái)獲取更高的計算效率——在10^12年后,計算的效率極限會(huì )比今天的極限再增加30個(gè)數量級。

圖庫版權圖片,轉載使用可能引發(fā)版權糾紛

換個(gè)角度說(shuō),就是在計算能耗問(wèn)題上人類(lèi)還有很長(cháng)的路要走?;蛟S,過(guò)去幾十年里人類(lèi)被摩爾定律慣壞了,沉迷于芯片的廉價(jià)和高速,而在很多層面都忽視了計算的效率——哪怕只是調調溫度也要跑上一個(gè)安卓系統。

但摩爾定律并不是自然定律,倒不如說(shuō)是一條KPI——實(shí)際的芯片進(jìn)步速度從2010年開(kāi)始就有點(diǎn)跟不上腳步了。此刻神經(jīng)網(wǎng)絡(luò )還不是人類(lèi)能耗的主體,但總有一天計算會(huì )抵達這個(gè)位置,我們應該在那一天到來(lái)之前,就做好一切可能的準備。

2024 /

03-27

所屬分類(lèi):

新聞中心

行業(yè)新聞

相關(guān)資訊—

亚洲无码网站在线免费观看_久久久久看夜夜爽无码不卡_人妻精品久久字幕妓女网_亚洲av综合色区无码一区爱av