英國在政府建筑中停用中國產攝像頭 外交部對此回應
11月25日，外交部發言人毛寧主持例行記者會?！ ∮杏浾咛釂?，英國政府部門24日下令，以“安全考慮”為由，在政府建筑中停用中國產的監控攝像頭。你
之前世超寫過一篇 AI 有多耗水的稿子，說是谷歌數據中心去年一年就花掉了一個半西湖的水量。
除了耗水，可能很多人還忽略了一點，那就是AI 在耗電這塊也是一絕。
前兩天阿里剛結束的云棲大會上，中國工程院院士、阿里云創始人王堅就打了這么一個比方——
過去一百年里，全球電動機消耗掉的電量就占到了總發電量的一半，而現在的大模型就相當于新時代的電機。
而這個新時代的“電機”，也是相當耗電。
現在，為了喂飽它這只電老虎，有些公司甚至準備搬出了“核動力”。
其實在業內，關于 AI 和能源之間的話題也是沒有斷過。
Huggingface 的科學家就專門測試過各個大模型的耗電量和碳排放，世超翻了翻這篇論文，也是直觀地感受到了大模型耗電的瘋狂。
先是 Huggingface 自家的 BLOOM 大模型，有 1760億參數，光是前1316世界之最期訓練它，就得花掉 43.3 萬度電，我換算了下，相當于國內 117 個家庭一年用掉的電量。
和它參數量相當的 GPT-3 ，耗電量就更不受控制，同樣是前期訓練，就要用掉128.7 萬度電，足足是前者的三倍。
甚至有人做過這樣一個類比， OpenAI 每訓練一次，就相當于 3000輛特斯拉同時跑 32 公里。。。
這還只是 AI 前期訓練用的電，在后期使用過程中累積的耗電量才是大頭。
一般來說，訓練就是不斷調整參數、重復訓練，最后得到一個使用體驗最好的模型，整個過程是有限度的。
后期的推理過程就不一樣了，比如我們用 ChatGPT ，每問一次問題都相當于是一次推理請求。
現在 ChatGPT 的月活用戶早已經破億，它每天推理的頻次的飆升可想而知。
更具體一點，拿自動駕駛來說，前期訓練花費的能1316世界之最耗成本就只有兩三成，剩下的七八成都是后期的推理消耗的。
《晚點 LatePost 》之前也拿 ChatGPT 做了這么一個測算，按日均最高訪問量 2.7 億次來計算，假設每個人每次訪問會問五個問題，一整個月下來光是推理消耗的電量就是 1872 萬度。
總的來講， AI 這幾年來消耗的電力正在以指數級別增長，然而現在全球發電已經差不多已經趨于平緩。
照這個態勢發展下去，估計再過幾十年，光是 AI 的耗電量，就足以導致全球用電荒了。。。
來自AMD，紅色表示AI能耗，綠色表示現有能源
而之所以這么耗電，一方面和近幾年來 AI 圈子內部搞起的軍備競賽不無關1316世界之最系。
國外在 OpenAI 之后，谷歌、 Meta 自家大模型的研發迭代也沒停過。
國內卷得就更厲害，百度的文心一言、阿里的通義千問、騰訊的混元等等等等，參數一個賽一個高，這還只是大廠們的賽道，一些大模型初創企業更是海了去了。
另一方面， AI 用掉這么多電，和它背后數據中心不無關系。
在數據中心，用電最多的地方就是 AI 服務器，因為要有大規模的計算，普通的服務器根本就不夠用，還得用專屬的 AI 服務器。
然鵝 AI 服務器，光是功率就比普通服務器高出了六七倍，普通服務器一般只需要兩個 800W~1200W 的電源， AI 服務器，則要 4 顆 1800W 的高功率電源。
emmm 這不耗電都說不過去。。。
AI 的耗電，當然卷大模型的廠商比我們清楚得多，畢竟在他們那里可是真金白銀的電費嘩嘩往外流。。。
所以在解決 AI 能耗的問題上，業內也是使出了渾身解數。
第一個辦法是想辦法提高 AI 芯片性能，性能上去了，耗電自然而然也就下去了。
另外一個辦法就簡單粗暴了，既然耗電多導致電費高，那找個更便宜的能源不就行了。
就比如國內目前就在搞“東數西算”的工程，在西部清潔能源豐富的地區建立數據中心，用來處理東部的數據。
并且東部地區數據中心密集，工商業的平均電價大概在0.676 元/度，而西部地區平均電價在0.541 元/度，錢不就這么省下來了么。
有些公司則又看準了核能賽道。
像 OpenAI 和微軟都先后投資了核能發電，不過不是傳統的核裂變發電方式，而是還在實驗室階段的核聚變。
早在 2015 年， OpenAI CEO 奧特曼就對核聚變發電感興趣了，向一家核聚變初創企業 Helion 投資了 950萬美金， 2021 年，又給它豪擲了 3.75 億美元。
緊接著在今年 5 月份，在核聚變發電站還沒著落的時候，微軟就和 Helion 簽訂了購電協議，說要在 2030年前實現負碳目標。
世超倒真有點好奇，這個 Helion 到底有什么魔力，在八字還沒一撇的時候，讓 OpenAI 和微軟先后都在它身上下這么大的注。
不過這事吧，從它給微軟的的承諾中就能窺探出一二。Helion 在那份購電協議中表示， 2028 年前上線的核聚變裝置，在一年內會把發電功率提升到 50兆瓦以上。
什么概念？相當于撐起 40000戶家庭的供電。
更重要的是，買核聚變發出來的電，還賊拉便宜，折合成人民幣相當于 7 分錢一度電，這誘惑誰擋得住啊。
微軟也沒把所有雞蛋放在一個籃子里，在下注核聚變發電的同時，他還看好了近幾年發展起來的小型核反應堆（ SMR ）。
不久前，微軟發了個招聘通知，說要找個“核技術首席項目經理”，來管SMR這塊的工作。
和傳統核電的大型反應堆比，理論上 SMR 這玩意兒體積更小，甚至可以在工廠里批量生產。
發電功率也是傳統反應堆的三倍，并且 SMR 也不用擔心損壞時釋放放射性元素，因為它能在第一時間自動關閉系統。
同時 SMR 也更省錢，平均每 1000度電下來就能省將近 100美元。。。
當然，這些東西目前還是八字沒那一撇， AI 耗電猛的現狀，短時間內也很難會得到改變。
各種核聚變項目，世超也不好說它們到底能不能成。
但 AI 的發展，說不定會給核能來一記大助攻。
如果這個世界是一局電子游戲的話，說不定可控核聚變的科技樹，正好就在 AI 之后呢。
撰文：松鼠編輯：江江 & 面線封面：萱萱
圖片、資料來源：
David Patterson，Carbon Emissions and Large Neural Network Training
WSJ，Artificial Intelligence Can Make Companies Greener, but It Also Guzzles Energy
虎嗅，訓練一次ChatGPT，“折壽”3000輛特斯拉
IT之家，AI 能耗成本太高，微軟考慮用核電來為數據中心供能
晚點 LatePost，ChatGPT 每月用的電已經夠一個小城鎮生活
華爾街見聞：AI耗電的“終極解決方案”：小型核反應堆
sciencealert，AI Keeps Using More And More Energy. Where Will It End?
神譯局，AI的B面：能耗爆發式增長，電力撐得起AI的算力嗎？
本文鏈接：http://m.rrqrq.com/showinfo-28-1885-0.htmlAI訓練一次 把我家這輩子的電都用完了是怎么回事？
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號
