全球最大超算中心开始运转,马斯克的AI野心显露
界面新闻记者 | 陈振芳
界面新闻编辑 | 文姝琪
美国田纳西州孟菲斯,全球最大超级计算中心“Supercluster”已于当地时间7月22日凌晨4:20正式开始运转。该项目隶属于马斯克旗下的xAI。
埃隆·马斯克最近在社交平台“X”上宣布了这一消息。他表示,xAI公司已开始在“Supercluster”上进行训练,该集群由10万个液冷英伟达(Nvidia)H100 GPU组成,在单个远程直接数据存取(RDMA)结构上运行,号称是“世界上最强大的AI训练集群”。
对比来看,OpenAI训练GPT4,需要用到25000块A100GPU,约为前者的1/20。
“它是世界上最强大的AI训练集群。”马斯克声称,Supercluster将全方位、深层次地参与并加速“世界上最强大人工智能”的训练过程。
从GPU规模上来看,这一集群已经全面超越了最新Top500榜单上的任何一台超级计算机,包括超过配备37888个AMDGPU的Frontier、60000个IntelGPU的Aurora,以及14400个NvidiaH100GPU的MicrosoftEagle,在规模和训练效率被公认为全球最强大的AI训练平台。
xAI创始成员TobyPhln表示,“一年前创办这家公司时,我们的目标是实现三大优势:数据优势、人才优势和计算优势。从今天开始,我们拥有了这三项优势。”马斯克随后转载了这一消息。
Supercluster原定于2025年秋季启动,xAI提前了一年实现该目标。
据福布斯报道,据大孟菲斯商会主席Ted Townsend透露,马斯克仅花费一周,就决定将他的人工智能初创公司xAI的新超级计算机建造在孟菲斯。
“经过3月份的几天旋风式谈判之后,马斯克和他的团队(其中包括他旗下几家公司的代表)选择了田纳西州的这座城市。”Ted Townsend解释称,这里有充足的电力和快速建设的能力,该项目将价值数十亿美元。在选择孟菲斯之前,xAI还与其他七八个城市进行了洽谈。
今年6月份,Ted Townsend曾告诉彭博社,有关新厂的许多细节尚未披露,包括总成本和将创造的就业数量。他表示,该市还讨论了向xAI提供税收减免或其他商业激励措施,以吸引项目落户孟菲斯,但具体细节尚未敲定。
xAI承包商将该项目称为“巨人项目”(Project Colossus),源自于1970年的科幻电影《巨人:福宾计划》,讲述的是一个失控的人工智能被赋予美国核武库控制权的故事。“巨人,它能看到一切,感知一切,了解一切,控制所有武器和防御。当这个没有感情的造物成为人类的主宰时,结果将是灾难性的。”
然而,这一投资进程并不顺利。福布斯报道称,孟菲斯市议会的几名议员正在敦促该市叫停这项投资,议员们被排除在项目决策过程之外。当地民众对这笔交易偷偷摸摸的性质和数据中心对水电的需求感到担忧。
人工智能的发展正在对欧美国家带来巨大的电力负担。
根据国际能源署的数据,一次ChatGPT查询需要2.9瓦时的电力,与之相比,谷歌搜索仅需要0.3瓦时的电力。高盛研究部估计,2023年至 2030年间,人工智能所驱动的数据中心功耗每年总体增长约200太瓦时;到2028年,预计人工智能将占数据中心电力需求的19%左右。
据估计,xAI孟菲斯工厂每小时可能使用高达150兆瓦的电力,相当于10万户家庭所需电量,而xAI预计每天至少需要100万加仑的散热水。这可能会对当地来说会造成巨大的负担。
xAI为了达成这项协议,已口头承诺将改善孟菲斯的公共基础设施,以支持数据中心的发展,包括兴建一个新的变电站和一个污水处理设施。然而,这一举措并不能让当地人信服,马斯克此前在其他地方承诺的一些公共基础设施项目并未如约推进。
另一方面,马斯克从OpenAI高薪挖来的Kyle Kosic,已于今年4月离职,重返OpenAI。
伴随着非议,马斯克的AI梦想仍在快速前进。
当地时间5月26日,xAI宣布完成60亿美元的B轮融资。
马斯克另外透露,xAI的Grok-2模型在来自甲骨文的2.4万个英伟达H100芯片上进行训练,“可能准备下月发布”。此前,xAI已经从甲骨文租用了大约1.6万颗H100芯片,成为该公司此类芯片最大客户。
6月19日,马斯克在社交平台X上表示,戴尔正在组装xAI在建超级计算机的一半机架,日本SMC组装另一半。7月9日,xAI已结束与甲骨文扩大现有协议、租用英伟达芯片的洽谈。甲骨文在去年9月表示,将向xAI提供云基础设施以训练AI模型,但未透露合同价值和期限。今年5月有报道称,两家公司接近达成扩大合作关系的协议,xAI将斥资约100亿美元向甲骨文租用云服务器、为期数年。
马斯克称,xAI的10万个H100GPU已经投入到Grok3模型的专项训练中,预计将于今年12月前完成训练。
目前,xAI已经发布了Grok-1、Grok-1等多个版本的模型。今年发布的Grok-1.5模型已具备长上下文能力,而Grok-1.5V则有了图像理解能力。
按照计划,xAI将在8月份发布Grok2。马斯克的最终目标是在今年12月之前训练出“按每项指标衡量都是世界上最强大的人工智能”——Grok3。
相较于其他竞争对手,xAI入局较晚,在模型参数表现上也不突出。但财大气粗的马斯克表示,“我们的根本竞争力有赖于比其他任何人工智能公司更快。”
大家都在看
-
全球最大!又一“巨无霸”下线!这座万亿之城,太给力→ 城市地区生产总值过万亿元,是经济发展、综合实力的重要体现,是城市地位、发展能级的重要标志。 2023年加入“万亿俱乐部”的江苏省常州市,2024年前三季度GDP已达7557.87亿元,同比增长5.8%!近日,央视财经《智造 ... 世界最高11-15
-
世界最高电压等级输电工程完成首次绝缘子调增改造项目 中新网新疆新闻11月13日电(杨迎洲 蔺鲸国)11月12日,随着昌吉-古泉±1100千伏特高压直流输电工程(简称“吉泉直流”)414号塔接地线的拆除,标志着国网新疆电力有限公司圆满完成世界最高电压等级输电工程首次绝缘 ... 世界最高11-15
-
全球最大!我国首个!正式并网→ 11月13日,国华投资山东垦利100万千瓦海上光伏项目首批发电单元成功并网,成为全球最大的开放式海上光伏项目,也是全球首个吉瓦级海上光伏项目,为光伏产业规模化发展起到了重要的引领和示范作用。国华投资山东垦利1 ... 世界最高11-14
-
全球名气最高的10位国际巨星,谁最厉害,你最喜欢哪一位 名气最高的巨星常常以其非凡的艺术才华和个人魅力吸引着全球数以亿计的观众。无论是在荧幕上的精彩演出,还是在舞台上的耀眼表现,他们都以独特的方式塑造了自己的艺术风格,影响着人们的生活和文化。这些国际巨星的 ... 世界最高11-07
-
世界上最高的桥梁耗资10亿有200层楼高 北盘江大桥位于北盘江河谷上方 565 米(1,854 英尺)以上,坐落在两座陡峭的悬崖之间,是世界上最高的桥梁。北盘江大桥位于中国最山区之一,靠近贵州省和云南省交界处,需要大量的设计创新和新技术,以至于建造该大 ... 世界最高11-07
-
全球最大万吨级电动海船,江西开建! 11月5日,由落户江西湖口县的江西江新造船有限公司为宁波远洋运输股份有限公司建造的全球最大、国内首制的万吨级纯电动高端智能海船——2艘“740TEU纯电动敞口集装箱船”举行开工仪式,标志着全球最大、国内首制的万 ... 世界最高11-07
-
加速度!全球规模最大、纬度最低的TOP级室内雪场倒计时 南都讯 记者黄璐“冷资源”变“热产业”!在国家大力推动冰雪运动的背景下,多重利好持续激发冰雪经济发展“热力”,深圳亦迎来了一场冰雪产业的盛会。11月7日,“冰雪盛宴,魅力深圳 ”深圳冰雪文旅推介大会在深圳 ... 世界最高11-07
-
中国,世界第一!有望突破30亿! 在11月3日举行的2024世界物联网大会上,发布了全球首部《世界万物智联数字经济白皮书》,数据显示,今年我国物联网连接数有望突破30亿。物联网是以感知技术和网络通信技术为主要手段,实现人、机、物的泛在连接,提 ... 世界最高11-05
-
印度百姓怒了,政府耗资340亿造全球最高雕像,谁料是中国制造 “团结雕像”的诞生:印度自豪的民族象征背后的“中国产品”身份民众的不满情绪 面对“中国产品”的尴尬:政府的两难公众反应与社会的分裂结语 世界最高11-03
-
世界最高面板堆石坝填筑量突破1000万立方米 湖南日报11月1日讯(全媒体记者 孟姣燕)10月30日,世界最高混凝土面板堆石坝拉哇水电站大坝工程填筑量突破1000万立方米,为电站提前实现投产发电目标奠定了坚实基础。拉哇水电站位于四川甘孜州与西藏昌都市交界的金 ... 世界最高11-02
相关文章
- 中阿建交40周年 世界最高建筑迪拜哈利法塔上演灯光秀
- 世界最高面板堆石坝填筑量突破1000万立方米
- 全球海拔最高的10座山峰,海拔8091米只能垫底,马卡鲁峰未进前三
- 你知道世界上最高的高楼中国有几座吗?
- 全球最大吨位全地面起重机下线:可将160吨重物吊到65层楼
- 高度超1公里,世界最高楼恢复施工,2028年建成
- 运载能力达9100车 全球最大、最环保汽车运输船交付出江
- 世界最大极限运动盛会在沪开赛,场地设计师“要让人一眼看出这是上海”
- 世界最高悬索桥——张靖皋长江大桥首度“牵手”
- 微软联合创始人去造飞机了,“世界最大”飞机只载火箭不载人
- 世界各国最高领导人官邸大比拼
- 一场“双向奔赴”诞生的“全球最高”
- 世界最大直径高铁盾构机“领航号”掘进突破1000环
- 世界最高的50座建筑,中国独占一半! 韩国网友:“它比我的小”
- 储量44亿吨!全球最大铁矿项目重启,为何非洲还要中方点头同意?
- 世界上最大的十架巨无霸飞机,第一名甚至能把火箭送上天
- 全世界历史上最高的10个人,最高者2.71米
- 地球上GDP最高的城市有哪些
- 我国自主研发!全球最大,成功下线
- 世界海拔最高风电项目,正式开工!
热门阅读
-
世界最高音排行榜,声音高到能竟然能震碎玻璃 07-13
-
世界最高少女,16岁时身高便已突破了2米 10-24
-
世界上最高的佛像,中原大佛高达208米 11-18
-
最高美国帝国大厦,总高度为443.7米 04-26