基模型12项性能超越GPT-4,商汤语言大模型就等你来用
机器之能原创
作者:Sia
今天,商汤宣布日日新大模型旗下自然语言应用“商量SenseChat”正式面向广大用户开放。用户已经可以通过访问https://chat.sensetime.com 注册使用。
几天前发布的最新财报中,商汤用了很大篇幅讲述在 AI 大模型领域取得的成绩。2023 年上半年,商汤实现营业收入 14.3 亿元,同比增长 1.3%。其中生成式 AI 相关收入实现 670.4% 的增长,对集团业务贡献从 2022 年的 10.4% 增至 20.3% ,已经成为最重要的新增长引擎。
值得关注的是,商汤商量 SenseChat 的基模型(foundation model)书生·浦语 InternLM-123B 由商汤与上海人工智能实验室联合多家国内顶级科研机构最新训练完成,在全球 51 个知名评测集(包括 MMLU , AGIEVAL , ARC , CEval , Race , GSM8K 等)共计 30 万道问题集合上测试成绩整体排名全球第二,在主要评测中 12 项成绩超越 GPT-4 ,排名第一。
生成式 AI 的全面爆发,也在加速推动行业创新。根据弗若斯特沙利文发布的《 AI 大模型市场研究报告( 2023 )》,商汤在产品技术、战略愿景、生态开放构建等综合竞争力国内第一。
一、大模型背后:技术为王
商汤集团核心业务板块收入的加速增长,尤其是生成式 AI 收入的暴增,离不开扎实的底层技术支持。
今年 4 月 10 日,商汤推出大模型“日日新”,包括自然语言处理模型“商量”、文生图模型“秒画”和数字人视频生成平台“如影”等。
其中,商量SenseChat,也是国内最早推出基于千亿参数大语言模型的聊天机器人产品之一。
仅两个月后,商汤与上海人工智能实验室联合多家国内顶尖科研机构于 6 月发布首个综合能力超越 GPT-3.5-turbo(GPT3.5 最优秀的模型之一)的基模型书生·浦语大模型 InternLM-104B(1040 亿参数),使用 1.6 万亿 token 的多语言语料训练,支持语言达 20 多种。
当时,InternLM 联合团队选取了 20 余项评测对其进行检验,其中包含全球最具影响力的四个综合性考试评测集,PK 对手包括 GLM-130B(开源)、LLaMA-65B(开源)、ChatGPT 和 GPT-4:
由加州大学伯克利分校等高校构建的多任务考试评测集 MMLU;
微软研究院推出的学科考试评测集 AGIEval(含中国高考、司法考试及美国 SAT、LSAT、GRE 和 GMAT 等);
由上海交通大学、清华大学和爱丁堡大学合作构建的面向中文语言模型的综合性考试评测集 C-Eval;
由复旦大学研究团队构建的高考题目评测集 Gaokao。
全面测试后,针对上述四个重要评测集的成绩对比如上,满分100分。
结果显示,InternLM 不仅显著超越 GLM-130B 和 LLaMA-65B 等学术开源模型,还在 AGIEval、C-Eval,以及 Gaokao 等多个综合性考试中领先 ChatGPT;在以美国考试为主的 MMLU 上表现和 ChatGPT 持平。综合性考试的成绩反映出 InternLM 知识掌握扎实,综合能力也很优秀。
又过了两个月,在上万块 GPU 的支持下,经过多次试错调优,InternLM-123B 于 8 月完成研发,其能力实现飞跃式发展:语言、知识、理解、推理和学科五大能力均有显著提升。
InternLM-123B 在主要评测中 12 项成绩排名第一,超越 GPT-4。
其中,在评测集综合考试中 AGIEval 分数 57.8,超越 GPT-4 位列第一;知识问答 CommonSenseQA 评测分数 88.5 排名第一, NaturalQuestions 排名第二;
InternLM-123B 在阅读理解 C3、CMRC、RACE (Middle)、RACE (High)、LAMBADA 五项评测中成绩全部居榜首;
此外,InternLM-123B 在推理WinoGrande、StoryCloze、HellaSwag、StrategyQA、SIQA 几项评测中成绩排名第一。
InternLM-123B 在 12 项权威评测中超越 GPT-4 位列第一。
除了生成的内容更加准确、可靠,作为国内最早实现“工具调用”的大模型,InternLM-123B 最让人印象深刻的是处理更加复杂场景的能力更强:它会调用工具进行多步推理和计算。在调用插件工具的过程中,大语言模型可能无法一次性成功调用工具解决问题, InternLM-123B 还具备自主反思和修正错误的能力。
比如,InternLM-123B 升级了代码解释器的调用能力,大模型可以调用代码解释器,在工具的帮助下完成复杂方程求解,提升解决复杂数学计算等任务的能力。
除了代码解释器(比如使用 Python 解释器),InternLM-123B 还可以调用 API 和搜索这类常用工具,应对更加复杂的用户需求。你可以脑补、畅想这样一个情景:
告诉 InternLM-123B 驱动的聊天助手,要去哪里旅行,什么时间出发。这位聊天助手会调用搜索找到相关网页,然后进入浏览器页面,主动搜索符合要求的出行方案,帮你搞定。
其实,InternLM-123B 强大的工具调用能力为上层应用构建灵活的 AI 智能体(Agents)提供了底层支持。
所谓 AI 智能体,在大模型语境下,可以理解成能自主理解、规划、执行复杂任务的系统。
GPT-4 驱动的 Auto-GPT 已初见端倪:它不再是 ChatGPT ,而是一个比较完整的模型智能体,因为它可以通过大模型去调用各种工具,包括其他大模型。
AI 智能体被业内认为是 AIGC 之后的下一个热点,也被认为是通向 AGI 的重要方向与趋势。
今年 6 月,商汤、清华大学、上海人工智能实验室等提出了能够自主学习解决任务的通才 AI 智能体 Ghost in the Minecraft (GITM)。新智能体能够完全解锁《我的世界》( Minecraft )主世界的整体科技树的全部 262 个物品(以往智能体方法包括 OpenAI 和 DeepMind 在内总共只解锁了 78 个),并可大大减少训练投入。
同时,近年来,一些巨头(比如英伟达)也在通过 Minecraft 探索 AI 智能体,真人玩家能够完成游戏任务,智能体几乎都能完成。Open AI 最近也收购了一家 AI 公司,相当于买下了一个开源的 Minecraft。Meta 曾在 6 月宣布了一系列处于不同开发阶段的技术,其中一个也是 AI 智能体。
二、“三位一体”,持续发力
能够在大模型上不断迭代,并持续保持领先,离不开商汤多年来“三位一体”——数据、算法和算力——上的持续发力。
早在 2019 年,商汤便使用上千张 GPU 进行单任务训练,推出了 10 亿参数规模的视觉模型,算法效果达到了当时业界最佳。2021 年至 2022 年期间,商汤还训练并开源了 30 亿参数的通用视觉模型书生 INTERN。
与算法模型持续联动的,还有底层算力上的不断投入与创新。
商汤称,SenseCore 商汤 AI 大装置上线 GPU 数量由 2023 年 3 月底的 2.7 万块,提升至日前的约三万块,算力规模提升 20% 至 6 ExaFLOPS。同时,2023 年上半年,商汤共有超过 1000 个参数量数十亿至上千亿的大模型在大装置上完成训练,并实现了技术迭代。
2021 年 6 月,商汤在接受机器之心采访时曾表示,待年底位于上海临港新片区的建筑群全部建成后, AI 计算峰值速度将达到 3740 Petaflops(1 petaflop 等于每秒一千万亿次浮点运算),可以在一天之内完整训练 OpenAI 的千亿参数模型 GPT-3。
现在国内人工智能领域,商汤大装置所提供的高性能计算名列前茅,不仅为做算法研究的人员提供了充足的算力,使他们能够快速地进行实验试错,大装置中所积累的实用工具也缩短了创新的验证周期。
不过,要做出大模型,除了算法经验和 GPU,也需要专业经验的积累和摸索。商汤也在这些方面积累了很久。
比如,制作高性能模型对训练数据的体量和质量都有着极高的要求,而模型的价值观、安全性也受训练数据的影响。通俗点说,目前大模型的技术路径决定了拥有大量高质量文本语料也意味着自动获得了海量的标注质量高的数据。
InternLM 性能领先,离不开体量业界领先的原始语料数据,更离不开强大的语料清洗和实验的能力。为对万亿 token 级别的数据进行高质量清洗,团队投入了数百台服务器搭载千卡 GPU 的计算资源,采用算法+人工的方式,对这些原始语料分门别类,精细化清洗,以确保其质量和安全。
报告称,高质量数据的生产能力达到每月逾 2 万亿 token,预计年底高质量数据储备将突破 10 万亿 token,以支持更加强大的基模型的训练。
此外,要保证大量 GPU 长时间稳定运行,需要经历许多试错。商汤科技自 2018 年起便致力于 AI 大模型的研发,有着数年的技术积淀和实践经验。早在 2019 年,商汤便具备了千卡并行的系统能力,使用上千张 GPU 卡进行单任务训练。
4 月,杨帆接受媒体采访时曾谈到,训练时大模型常遇到“梯度爆炸”,或者硬件故障造成机器过载宕机,以前宕机频率是十分钟一次,商汤现在能做到千卡级系统一周一次,这也是不断调试的结果。
GPU 大规模并行之后,还需不断调试并联方法,提高算力效率,商汤目前在千卡集群上能达到的最高效率是 90% 利用效率。
值得一提的是,为满足客户的不同需求,全面覆盖业务场景,商汤还推出了多个行业大模型,并且和上海人工智能实验室联合开源了 InternLM-7B 。目前,InternLM-7B 的部分训练数据、训练代码及基模型权重已经向学术界及工业界免费开源,并支持免费商用。InternLM-7B 也登顶了多个模型测试榜单,是性能最好的轻量级基模型之一,在多个榜单中,表现甚至超过参数量更大的 LLaMA2-13B。另外,InternLM-20B 也将迎来开源。InternLM-20B 具备优秀的调用工具能力,同时,其适中的模型大小使得其运行成本更低,适合建构各类应用。
其实商汤的AI大模型研发,是从 2018 年就开始的。在 2019 年,商汤就推出了 10 亿参数量规模的视觉模型,在视觉 AI 技术方面达到了全球领先。2021 年以来,商汤又陆续训练了百亿参数规模的超大视觉模型,以及 320 亿参数量的全球最大的通用视觉模型,并在自动驾驶、工业质检、医疗影像等多个领域得到广泛应用。可见商汤投入到大模型这条路径,乃至最终迈向 AGI 通用人工智能,可谓水到渠成。
多年来,商汤始终坚持长期战略,持续投入到人工智能领域的重要前沿研究中,并不断取得成果。今年 6 月,商汤联合团队论文 Planning-oriented Autonomous Driving,因提出的自动驾驶通用大模型 UniAD 获得 CVPR 2023 最佳论文,这不但是行业首个感知决策一体化自动驾驶大模型,也是 CVPR 史上第一篇以自动驾驶为主题的最佳论文。最新财报显示,商汤自动驾驶大模型将于第四季度准备就绪,用于量产。
长远来看,大模型的格局此刻或许仍然风起云涌,但长期战略带来的持久影响将在未来,让我们都走得更加深远。
大家都在看
-
机器狼:巷战利器背后的科技突破与未来畅想】 前两天 【机器狼:巷战利器背后的科技突破与未来畅想】前两天,我在珠海航展现场,人群中偶遇一位老工程师。聊天间得知他已在国防工业战线摸爬滚打三十余载。说起这次展会上的”明星”机器狼,老工程师的眼里闪着光:”的无 ... 机械之最11-21
-
什么最可怕,未来战场机器狼群最可怕!#军事科技 什么最可怕?狼群最可怕。我国自主研究的机器狼来了,直接亮相珠海航展,还是群狼作战。很多人会问未来战争是什么样的?现在可以告诉你是无人装备。我国自主研究的机器狼作战小队现在有 4 个作战平台,它们之间可是 ... 机械之最11-17
-
碾压美军!中国机器狼群亮相珠海航展,武德充沛太残暴! 真的太酷啦!机器狗已经out了,解放军已经用上了“机器狼”,这把直接开启未来无人战争高端局。由中国兵器装备集团研发的机器狼群无人作战系统,首度在珠海航展动态展示,并迅速成为现场的焦点。岛内专家见到后直接 ... 机械之最11-16
-
2000年前人类的第一台计算机:安提基特拉机械之谜 全全探索局。说说历史上最大的谜团——人类发现了本不应该存在的古老计算机!1. 1900 年海绵潜水员在希腊小岛安提凯西拉附近发现了一艘沉船,他在海底发现了一只突出的青铜手,虽严重腐蚀但仍可辨认,他将发现报告给 ... 机械之最11-14
-
机械狼带给咱们的冲击感还没有消失呢 机械狼带给咱们的冲击感还没有消失呢,机械虎就横空出世了!这就像是在说,这台机器可不是你的玩具,它可是一个凶猛的野兽!这不禁让人联想起一些有趣的民间调侃,更让人深思这背后究竟蕴藏着怎样的军事理念?这些“ ... 机械之最11-14
-
当今最复杂的椭圆曲线找到了!29个独立有理点打破18年记录 选自quantamagazine作者:Joseph Howlett机器之心编译机器之心编辑部又是计算机帮了忙。对现代密码学稍有了解的人都必定听过椭圆曲线的赫赫威名,但椭圆曲线本身依然还存在很多悬而未决的问题。今天,量子杂志作者 J ... 机械之最11-12
-
实战版“汪汪队”来了 机器狗将首次亮相中国航展! 总台中国之声记者从兵器工业集团了解到,四条机器狗分队将参加地面装备动态演示环节,四足机器人具备综合打击、侦察探测、运输包装、操作处置等功能,将展示城市作战机动能力。启动、行走、爬坡、下楼……昨天在珠海 ... 机械之最11-09
-
机械硬盘这种“老古董”,怎么在大模型时代还供不应求了? 大家是不是觉得,搞人工智能就得买显卡、买网卡?其实啊,还有个被大家忽略的"主角"——存储设备,特别是咱们常说的硬盘。这不,最近硬盘价格蹭蹭往上涨,搞得大家直呼吃不消。你说硬盘这玩意儿,都快70岁"高龄" ... 机械之最11-08
-
每日数码科普之六十四:键盘什么轴好用?机械键盘轴体选择指南 机械键盘因其独特的手感、耐用性和可定制性,近年来越来越受欢迎。而机械键盘的核心在于“轴体”,它决定了键盘的手感、声音以及使用体验。不同的轴体适合不同的使用场景,因此选择一个适合自己的键盘轴体尤为重要。 ... 机械之最11-07
-
为神舟飞船造一顶“大伞”——走进中国航天科技集团五院508所航天器回收着陆团队 图①:11月4日,神舟十八号载人飞船返回舱在东风着陆场着陆。新华社记者 李志鹏摄图②:神舟飞船回收着陆分系统1200平方米主伞。图③:工作人员为神舟飞船包伞。(除署名外,照片由采访对象提供)11月4日凌晨1时24分 ... 机械之最11-07
相关文章
- 当今最复杂的椭圆曲线找到了!29个独立有理点打破18年记录
- 大国重器背后的“90后” 汪泽:精密机械的操控者 于毫厘之间细雕琢
- 合作共赢创未来——写在第七届中国国际进口博览会开幕之际
- 闫妮机械姬:科技与魅力交织的科幻新象
- 倒背191步枪,解放军公布一窝6只“机器狼”,战斗力到底有多强?
- 实战版“汪汪队”来了 机器狗将首次亮相中国航展!
- 机械行业的发展现状与未来趋势分析
- 机械硬盘这种“老古董”,怎么在大模型时代还供不应求了?
- 每日数码科普之六十四:键盘什么轴好用?机械键盘轴体选择指南
- 娜然仿生机械姬
- 为神舟飞船造一顶“大伞”——走进中国航天科技集团五院508所航天器回收着陆团队
- 机械行业发展前景如何?全面解析与展望
- 机械哪个方向好?
- 我国古代的计时仪之最
- 新车停在机械车位,最担心的事情发生了……
- 给敌人递刀子?中企帮印度建最大最强炼铁高炉,将损害长远利益?
- 美国对中国大学机械工程排名!网友:如梦如幻
- 每日数码科普之五十一:键盘的进化与现代趋势
- 2024年双十一机械键盘入门及选购推荐(含无线键盘、游戏键盘)
- 山东一只“机器狗”火遍全网!确实厉害→
热门阅读
-
天下第一暗器暴雨梨花针,传说中的唐门暗器做出来了 07-13
-
世界十大大型船舶排名,第一能承重六十万吨! 07-13