AWS 和 Google 的AI基建技術長講了蠻多行業內的觀察,其中AWS的CEO講到,Nvidia A100到現在都還在用根本沒淘汰,因為需求實在太大了。
https://www.patreon.com/posts/149987681?pr=true
首先記憶體部分,另一場的Intel 陳立武有明確提到他和兩家記憶體大廠有密切聯繫,至少會缺到2028年。
AI 軟硬體效率的改善對於緩解供需問題無用,因為只要效率一提升成本一降使用量馬上就又變高把供給再逼到極限,是標準的傑文斯悖論(Jevons Paradox):技術效率的提升不但沒有減少資源消耗,反而因為降低了使用成本而刺激了更多需求。
電力供應已成為 AI 基礎設施擴張最根本的瓶頸之一。AWS CEO 直指問題核心:「以公用事業為例,幾乎從有歷史以來,它們就有固定定價和監管定價,這對它們是一種限制。
它們獲得固定的投資回報。所以整個產業的結構就是每年成長3%到5%。很難讓它們突破這個框架,因為當它們獲得低回報時,為什麼要去冒險?」
這種結構性限制意味著,即使科技公司願意投入資金,傳統電力產業也缺乏足夠的誘因來加速擴張。
AWS CEO 坦言:「無論我們是擁有電力還是資助電力,我真的不想營運電廠之類的東西。如果能連接到電網,整個系統會更有效率。
但在過渡期間,可能要做一些錶後電力(behind the meter power)之類的事情,因為我們必須在世界追上來之前資助這個加速過程。」