kaiyun2023 年供应了约 10 万块芯片-开元ky888网址进入下载
发布日期:2025-01-14 03:47    点击次数:139

kaiyun2023 年供应了约 10 万块芯片-开元ky888网址进入下载

连年来,东说念主工智能(AI)的崛起引起了凡俗的磋议和担忧,许多东说念主回归 AI 会形成休闲率飙升,而有些乐不雅的一又友则戏称"惟有电费贵过馒头,AI 就永远不可都备代替东说念主"。

诚然这是句打妙语,但背后则是实确凿在的 AI 能耗问题,越来越多的东说念主担忧高能耗将成为制约 AI 发展的瓶颈。就在不久前,技能创业者、前谷歌工程师凯尔 · 科比特(Kyle Corbitt)在酬酢媒体 X 上示意,微软照旧遭受了这方面的难题。

AI 到底有多费电?

科比特称,检修 GPT-6 的微软工程师们正忙着搭建 IB 鸠合(InfiniBand),把漫衍在不同地区的 GPU 贯穿起来。这项责任很珍重,但他们别无遴荐,因为要是把杰出 10 万块 H100 芯片部署在归并个地区,电网就会崩溃。

开首:X@corbtt

为什么这些芯片聚拢起来会导致电网崩溃的后果呢?让咱们来通俗算一笔账。

图库版权图片,转载使用可能激发版权纠纷

英伟达网站上公布的数据涌现,每块 H100 芯片的峰值功率为 700W,10 万块 H100 峰值功耗最高可达 7000 万 W。而 X 挑剔区有动力行业从业者指出,10 万块芯片的总能耗将终点于一座袖珍太阳能或风能发电厂的全部输出。除此以外,还要计议这样多芯片的配套才能的能耗,包括工作器和冷却开辟。这样多耗电才能,聚拢在一小片区域,给电网带来的压力可念念而知。

AI 耗电,冰山一角

对于 AI 能耗问题,《纽约客》的报说念一度引起凡俗关切。报说念估算,ChatGPT 逐日耗电量或杰出 50 万千瓦时。(参见:ChatGPT 日耗电超 50 万度,卡死 AI 发展的竟然是动力?)本色上,现时 AI 耗电量诚然看上去是个天文数字,但仍然远远不足加密货币和传统的数据中心。而微软工程师遭受的难题也标明,制约 AI 发展的不仅是技能自身的能耗,还有配套基础才能的能耗,以及电网的承载力。

海外动力署(IEA)发布的一份陈说涌现,2022 年人人数据中心、东说念主工智能和加密货币的耗电量达到 460 TWh,占人人能耗的近 2%。IEA 瞻望,在最糟糕的情况下,到 2026 年这些领域的用电量将达 1000 TWh,与整个日本的用电量终点。

然而,陈说同期涌现,现时平直参预 AI 研发的能耗远低于数据中心和加密货币。英伟达在 AI 工作器市集中占据约 95% 的份额,2023 年供应了约 10 万块芯片,每年耗电量约为 7.3 TWh。然而在 2022 年,加密货币的能耗为 110 TWh,与整个荷兰的用电量终点。

图注:2022 年与 2026 年,传统数据中心、加密货币、AI 数据中心的能耗臆想值(柱状图从下往前治安展示)。可见,现时 AI 耗电量远低于数据中心和加密货币。图片开首:IEA

冷却能耗,糟蹋漠视

数据中心的能效平常用能效比(Power Usage Effectiveness)评估,即销耗的统统动力与 IT 负载销耗的动力的比值。能效比越接近于 1,标明数据中心豪侈的动力越少。数据中心要领组织 Uptime Institute 发布的陈说涌现,2020 年人人大型数据中心的平均能效比约为 1.59。也等于说,数据中心的 IT 开辟每销耗 1 度电,其配套开辟就销耗 0.59 度电。

数据中心的特殊能耗中,绝大部分诳骗于冷却系统。一项探询磋议涌现,冷却系统销耗的能量可达数据中心总能耗的 40%。近些年,跟着芯片更新换代,单台开辟的功率增大,数据中心的功率密度(即单元面积耗电量)约束升迁,对散热建议了更高的条目。但与此同期,通过纠正数据中心打算,就能大幅减少能量的豪侈。

因为冷却系统、结构打算等各方面的相反,不同数据中心的能效比相反很大。Uptime Institute 陈说涌现,欧洲国度照旧把能效比降到了 1.46,而在亚太地区仍有杰出十分之一的数据中心能效比杰出 2.19。

世界列国正在摄取措施,敦促数据中心拔除节能减排的倡导。其中,欧盟条目大型数据中心成就余热回收开辟;好意思国政府注资研发更高能效的半导体;中国政府也出台措施,条目数据中心从 2025 年起能效比不高于 1.3,并将可再活泼力使用比例逐年上调,到 2032 年达到 100%。

图注:2020 年,人人各地大型数据中心的能效比。从左到右治安为:非洲、亚太地区、欧洲、拉丁好意思洲、中东、俄罗斯及独联体国度、好意思国和加拿大。图片开首:Uptime Institute

科技公司用电,节流难开源更难

跟着加密货币和 AI 的发展,各大科技公司的数据中心规模约束扩大。据海外动力署(IEA)统计,在 2022 年好意思国领有 2700 座数据中心,销耗了寰宇用电量的 4%,并瞻望这一比例到 2026 年将达到 6%。跟着好意思国东西海岸用地越发弥留,数据中心逐渐向爱荷华州、俄亥俄州等中部地区滚动,但这些二线地区原有的产业并不证据,电力供应可能无法知足需求。

一些技能公司尝试开脱电网的按捺,平直从袖珍核电站购买电能,但这种用电花式和新建核电站都要濒临复杂的行政经过。微软尝试使用 AI 扶植完成肯求,而谷歌使用 AI 进走运算任务休养,以提高电网启动适度,裁减企业碳排放。至于可控核聚变何时参预诳骗,现时仍然是未知数。

表象变暖,雪上加霜

AI 的研发需要阐明而雄伟的电网撑捏,但跟着极点天气频发,许多地区的电网正在变得愈加脆弱。表象变暖会导致愈加常常的极点天气事件,不仅形成用电需求激增,加剧电网包袱,还会平直冲击电网才能。IEA 陈说指出,受干旱、降雨不足和提早融雪的影响,2023 年人人水力发电占比下落到三十年来的最低值,不足 40%。

自然气经常被视为向可再活泼力转型过程中的一座桥梁,但它在冬季极点天气下并不阐明。2021 年,寒潮要紧好意思国得克萨斯州,导致大面积断电,部分住户家中断电杰出 70 小时。此次晦气的一个主要原因等于自然气管说念冰冻,形成自然气发电厂停摆。北好意思电力可靠性委员会(North American Electric Reliability Council,简称 NERC)瞻望,在 2024-2028 年,好意思国、加拿大有杰出 300 万东说念主口濒临越来越高的断电风险。

为保险动力安全,同期拔除节能减排,许多国度也将核电站视为一种过渡措施。在 2023 年 12 月举办的调治国搪塞表象变化委员会第 28 次峰会(COP 28)上,22 个国度签署调治声明,情愿到 2050 年将核能发电才智升迁到 2020 年水平的 3 倍。与此同期,跟着中国、印度等国任意鼓吹核电开辟,IEA 瞻望到 2025 年,人人核电发电量将达到历史新高。

"华龙一号"航拍。图库版权图片,不授权转载

IEA 陈说指出:"在变化的表象模式眼前,提高动力各类化、升迁电网跨区域休养才智和摄取愈加抗冲击的发电花式将变得越发紧要。" 保险电网基础才能,不仅联系到 AI 技能的发展,更是关乎民生国计。

参考文件

[ 1 ] Kyle Corbitt.   X.   https://twitter.com/corbtt/status/1772392525174620355. .

[ 2 ] IEA ( 2024 ) ,   Electricity   2024, IEA, Paris https://www.iea.org/reports/electricity-2024, Licence: CC BY 4.0

[ 3 ] Andy Lawrence. Which regions have the most energy efficient data centers?. Uptime Institute.

https://www.datacenterdynamics.com/en/opinions/which-regions-have-most-energy-efficient-centers/.

[ 4 ] Zhang, Xiaojing, Theresa Lindberg, Naixue Xiong, Valeriy Vyatkin, and Arash Mousavi. "Cooling energy consumption investigation of data center it room with vertical placed server."   Energy procedia   105 ( 2017 ) : 2047-2052.

[ 5 ] Evan Halper. Amid explosive demand, America is running out of power.   Washington Post.   https://www.washingtonpost.com/business/2024/03/07/ai-centers-power/. .

[ 6 ] Jeremy Hsu. US grid vulnerable to power outages due to its reliance on gas.   New Scientist.   https://www.newscientist.com/article/2411905-us-grid-vulnerable-to-power-outages-due-to-its-reliance-on-gas/. .

[ 7 ] Jeremy Hsu. Much of North America may face electricity shortages starting in 2024. New Scientist.   https://www.newscientist.com/article/2409679-much-of-north-america-may-face-electricity-shortages-starting-in-2024. .

商酌制作

作家丨玛雅蓝   科普创作家

审核丨于旸   腾讯玄武推行室谨慎东说念主

商酌丨徐来 丁崝

责编丨丁崝

审校丨徐来 林林

有关推选

1.能量比馒头还低的 4 种面包,减肥宽解吃,然而………

2.认为是痔疮,适度是肠癌!竟是被这件常见"小事"给踯躅了……现时知说念还不晚

3.为什么女性总爱喊疼?真不是矫强,而是……

4.劝你喝豆乳的事理,1 个就够了,但 2 类东说念主慎喝

5.石头尽然长出了头发?!不外真比拟你念念的更可怕……

本文封面图片及文内图片来自版权图库

转载使用可能激发版权纠纷

原创图文转载请后台恢复"转载"

点亮"在看"

整个涨常识!

kaiyun