GPT-4老板:AI可能会杀死人类,已经出现我们无法解释的推理能力
Pine 萧箫 金磊 发自 凹非寺
量子位 | 公众号 QbitAI
“AI确实可能杀死人类。”
这话并非危言耸听,而是OpenAI CEO奥特曼的最新观点。
而这番观点,是奥特曼在与MIT研究科学家Lex Fridman长达2小时的对话中透露。
不仅如此,奥特曼谈及了近期围绕ChatGPT产生的诸多问题,坦承就连OpenAI团队,也根本没搞懂它是如何“进化”的:
从ChatGPT开始,AI出现了推理能力。但没人能解读这种能力出现的原因。
唯一的途径是向ChatGPT提问,从它的回答中摸索它的思路。
针对马斯克在推特上的“危险论”,他直言:
马斯克在我心中是英雄,我支持也理解他的担忧。
虽然他在推特上挺混蛋的,但希望马斯克能看到我们在解决AGI安全问题上付出了多大的努力。
除此之外,在这场对话过程中,奥特曼还提到了不少刁钻的话题,例如:
ChatGPT、GPT-4开发的内幕GPT-4是人类迄今所实现的最复杂的软件如何看待大家拿ChatGPT越狱……在看过这场对话之后,网友直呼:
两位AI大佬用大家都能理解的方式聊AI,多来点这样的访谈。
那么接下来,我们就来一同看下他们这场深度对话。
GPT-4内幕大曝光
GPT-4是这场对话中最受关注的部分。
它是如何训练的?如何在训练模型时避免浪费算力?如何解决AI回答不同价值观的人的问题?
首先是训练过程,依旧是预训练+RLHF,不过透露了一点具体细节。
GPT-4早在去年夏天就已经训练完成,后面一直在进行对齐工作,让它表现得更符合人类需求。
相比预训练数据集,RLHF所用的数据非常少,但效果是决定性的。
对此,奥特曼透露了一点数据来源,包含一些开源数据集、以及合作商提供的部分数据集。
当然,数据集中也有一点Reddit论坛上出现的迷因梗(meme),但不是很多。对此奥特曼遗憾表示:
如果再多点,它的回答可能会更有趣。
即便如此,团队甚至奥特曼自己依旧不能完全解读GPT-4。
目前对它的解读方式,依旧是通过不断问它问题,通过它的回答来判断它的“思路”。
而就在不断测试中,OpenAI发现从ChatGPT开始,GPT系列出现了推理能力。
虽然ChatGPT绝大部分时候都被当做数据库使用,但它确实也出现了一定的推理能力,至于这种能力具体如何出现的,目前却无人能回答。
但大模型的训练往往意味着大量算力需求。对此奥特曼再次提到了OpenAI独特的训练预测方法:
即便模型很大,团队目前也有办法只通过部分训练,预测整个模型的性能,就像是预测一名1岁的婴儿能否通过SAT考试一样。
关于这一点,在GPT-4论文和官方博客中也有更详细介绍。
最后奥特曼承认,GPT-4确实存在应对不同价值观的人的问题。
临时解决办法就是把更改系统消息(system message)的权限开放给用户,也就是ChatGPT中经常见到的那段“我只是一个语言模型……”。
通过改变系统消息,GPT-4会更容易扮演其中规定的角色,比在对话中提出要求的重视程度更高,如规定GPT-4像苏格拉底一样说话,或者只用JSON格式回答问题。
所以,对于GPT系列来说,谁最可能载入人工智能史册?奥特曼倒不认为是GPT-4:
从可用性和RLHF来看,ChatGPT无疑是最具里程碑的那一个,背后的模型没有产品的实用性重要。
最会打太极的CEO
GPT-4论文中没有透露参数规模、训练数据集大小等更多细节,还被外界吐槽越来越不Open了。
在这次访谈中,面对主持人步步追问,奥特曼依旧守口如瓶。
GPT-4预训练数据集有多大?奥特曼只是很笼统的介绍了有公开数据集、有来自合作伙伴的内容(如GitHub提供的代码)还有来自网络的内容。
活像ChatGPT也能写出来的那种赛博八股文,只有在谈到Reddit的时候透露了网络梗图在训练数据中占比不大,“不然ChatGPT可能更有趣一些”。
GPT-4模型参数量有多大?奥特曼只是说之前疯传的100万亿参数是谣言,然后又糊弄过去了。
我认为人们被参数竞赛所吸引,就像过去被CPU的主频竞赛所吸引一样。现在人们不再关心手机处理器有多少赫兹了,关心的是这东西能为你做什么。
不过奥特曼对于一种说法是持有肯定态度——“GPT-4是人类迄今所实现的最复杂的软件”。
但在主持人Lex突然抛出一些时下针对GPT-4的尖锐观点时,奥特曼的应对也堪称“AI般淡定”(狗头)。
例如,关于前段时间闹得沸沸扬扬的GPT-4越狱问题。
一名斯坦福教授仅仅用30分钟,就诱导GPT-4制定出了越狱计划,并全部展示了出来。
对此奥特曼表示,就如同当年iPhone也面临被“黑”或者说越狱的问题(如当年免费的越狱版App Store)一样,这并非不能解决的事情。
奥特曼甚至坦承,他当年就把自己的第一台苹果手机越狱了——甚至当时觉得这是个很酷的事情。
但现在已经没有多少人去干苹果越狱的事情了,因为不越狱也足够好用了。
奥特曼表示,OpenAI的应对思路同样如此,即把功能做的足够强,他甚至表示,愿意在这方面给用户开更多权限,以便了解他们到底想要什么。
除此之外,Lex还提到了马斯克对于奥特曼的批评。
奥特曼虽然是当年被马斯克一手提拔的人才,但如今马斯克不仅退出了他们联手创办的OpenAI,还对OpenAI现状十分不满,经常在推特上阴阳怪气这家公司。
我捐1亿美金成立的非营利组织怎么就变成一个300亿市值的营利性公司了呢?如果这是合法的,为什么其他人不这样做?
作为OpenAI现任CEO,奥特曼并未直接回应此事,而是调侃了一下马斯克在航天领域也经常被“老前辈”们批评的事情。
这一系列采访问答,不禁让人想到在ChatGPT发布后,奥特曼对于记者“将ChatGPT整合进微软必应和Office”问题的回应方式:
你知道我不能对此发表评论。我知道你知道我不能对此发表评论。你知道我知道你知道我不能对此发表评论。
既然如此,为什么你还要问它呢?
GPT的“偏见”不会消失
GPT在迭代过程中“偏见”必然存在,它不可能保持完全中立。
在主持人提到关于ChatGPT以及GPT-4种存在的偏见问题时,奥特曼这样回应道。
ChatGPT在推出之初,就不是一个成熟的产品,它需要不断迭代,而在迭代的过程中,仅仅依靠内部的力量是无法完成的。
“提前”推出ChatGPT技术,是要借助外部世界的集体智慧和能力,同时也能让全世界参与进“塑造AI”的过程中。
而不同人对于问题的看法也各不相同,所以在这个过程中,“偏见”问题就不可避免。
甚至奥特曼在话里话外也透露着:在GPT中,“偏见”永远不会消失。
他将外部参与建设GPT比作“公开领域建设的权衡”。
GPT生成答案是个性化控制的结果,迭代的过程则是更精准地控制“个性化”的过程。
有趣的是,期间奥特曼还暗戳戳“背刺”起了马斯克的推特:
推特摧毁掉的多元性,我们正在将其找回来。
(嗯,奥特曼是懂一些话术的)
当然,谈到ChatGPT,总绕不开其背后的公司OpenAI,在成立之初,它就立下了两个Flag:
1、非营利性2、通用人工智能(AGI)如今,已经过去八年之久,这两个Flag也是发生了巨大的变化:AGI的大旗还在高举,而非营利性这面旗则已经摇摇欲坠。
对此,奥特曼也是分别作出了回应。
对于OpenAI“非营利性质”的逐渐削弱,奥特曼直言:很久之前,就已经意识到非营利性不是长久之计。
仅仅依靠非营利筹集到的资金对OpenAI的研究来说远远不够,商业化是必然选择。
但在之后奥特曼也试图“找补”回一些,称目前的商业化的程度仅止于满足投资者与员工的固定回报,剩余资金还是会流向非营利性组织。
提到AGI,一开始在OpenAI声称要做通用人工智能时,还有一堆人在嘲讽,如今做出GPT-4这样的产品,回过头来再看,嘲讽的声音已经越来越少了。
而面对外界询问“GPT-4是AGI吗”这样的问题时,奥特曼则是直接给出了自己理解中的AGI:
AGI所掌握的知识应该是要超过人类科学知识总和的,并且具有创造性,能够推动基础科学的发展;
而目前所有GPT并不能做到这些,想要达到AGI还需要在目前GPT的范式上进行拓展,至于如何拓展,正是目前所缺乏的。
值得一提的是,谈到AGI时,是奥特曼在访谈中鲜有的“两眼放光”的时刻。
他抛出了一句极具“科研分子理想情怀”的金句:
也许AGI是永远抵达不了的乌托邦,但这个过程会让人类越来越强大。
但奥特曼并不否认过分强大的AGI“可能杀死人类”这一观点:
我必须承认,(AI杀死人类)有一定可能性。
很多关于AI安全和挑战的预测被证明是错误的,我们必须正视这一点,并尽早尝试找到解决问题的方法。
One More Thing
在谈话最后,Lex Fridman还试图让奥特曼讲一些给年轻人们的建议,奥特曼直接来了个“反鸡汤文学”:
网络上的“成功学”帖子太诱人,建议不要听太多建议。
我就是无视建议做到现在这样的。
参考链接:
https://www.youtube.com/watch?v=L_Guz73e6fw
— 完 —
量子位 QbitAI · 头条号签约
关注我们,第一时间获知前沿科技动态
大家都在看
-
为什么我们察觉不到人类在进化?难道人类已经停止进化了吗? 对于进化论的探讨往往充满争议,很多人不愿将自身祖先与猿猴挂钩,更不用说承认与黑猩猩有血缘关系,尤其是起源于偏远的东非之地。但事实上,达尔文在提出《物种起源》时,进化论还远远不是科学的范畴,它更像是博物 ... 人类之最11-17
-
地壳中含量最高的十大元素,氧、硅和铝分列前三名 在地质学术语中,地壳是岩石的固体地壳,是地球固体球的最外层,是岩石圈的重要组成部分。地球是由各种元素组成的,其中最多的有氧、硅、铝、铁、钙等。截止目前,已经发现的118种元素中,其中94种存在于地壳中;那 ... 人类之最11-16
-
自我是人类最私密的所有物,却非常依赖人类的社会性 齐格蒙特·鲍曼是近几年在国内广受关注的一位社会学家、思想家。他的作品《工作、消费主义与新穷人》《将熟悉变为陌生》等都掀起了阅读热潮。今年,有关他与塔林大学人文学院教授瑞恩·罗德的对谈录《自我》上市。在 ... 人类之最11-15
-
揭开人类制度变迁的秘密《人类命运:制度治理》西安发布会举行 2024年11月10日,《人类命运:制度治理》新书发布会西安专场举行。王晶作为第十届、第十一届全国人大代表、第十二、十三、十四届全国政协委员以及曾白手起家参与创办两家高科技上市公司的企业家、高级工程师和享受国 ... 人类之最11-14
-
人体最脏的部位,很多人都用舌头舔过,今天总算知道,长记性! 声明:本文内容均是根据权威医学资料结合个人观点撰写的原创内容,在今日头条全网首发72小时,文末已标注文献来源及截图,为了方便大家阅读理解,部分故事情节存在虚构成分,意在科普健康知识,如有身体不适请线下就 ... 人类之最11-14
-
人类现在有没有可能是宇宙中最高等的文明? 在那浩瀚无垠的宇宙深处,是否存在着其他智慧生命?而人类,现在有没有可能是宇宙中最高等的文明呢?要探讨这个问题,我们首先要思考宇宙的广袤程度。宇宙之辽阔简直超乎想象,包含着数以亿计的星系,每个星系又拥有 ... 人类之最11-11
-
湿气是癌症的元凶,按摩人体这个“阳气窝”,逼出骨缝里的湿气 《黄帝内经》中提到,肿瘤的病因是“邪气居其间”“久而内着”。脾虚生痰,肺、脾、肾功能失调,水湿代谢紊乱,则停聚而成痰,随气流行,外而经络筋骨,内而五脏六腑,全身上下内外无处不至,结为痰核,而成肿块。临 ... 人类之最11-10
-
「最」系列!你知道人体的世界之最吗? 世界上最长的"管道"人体身体一共有一千多亿条纤细的微小血管,没错掰掰手指数一下,1000多“亿”条,如果把这些微小的血管全部连接起来,几乎长达10万公里,可绕地球两周半。 世界上的最奇特的"钢筋" ... 人类之最11-08
-
这本百万年史书,藏着多少秘密 这本百万年史书,藏着多少秘密半月谈记者 杜一方桑干河畔,泥河湾沟壑纵横间,埋藏着文明起源跨越200多万年的秘密,被誉为“东方人类摇篮”。这里百年来的考古发现,已将中国乃至整个东亚地区的人类起源时间推前至约 ... 人类之最11-07
-
人类最悲壮的一次阅兵:走过主席台直扑战场,许多人再也没有回来 本文记叙的不是我国的事情,却仍然让所有中国人深有感触。因为,我们的家园也曾被敌人践踏!——没人看,我也要用心写完。愤怒的希特勒1941年11月7日那天,希特勒心情愉悦的打开了收音机,听着里面传来的庆典声,以 ... 人类之最11-07
相关文章
- 世界最极端的十个人类居住地,温度常年零下70度,竟有人在此定居
- 人体免疫力最喜欢的6种主食,隔三差五吃一次,提高免疫力少生病
- 人类现在有没有可能是宇宙中最高等的文明?
- 湿气是癌症的元凶,按摩人体这个“阳气窝”,逼出骨缝里的湿气
- 「最」系列!你知道人体的世界之最吗?
- 这本百万年史书,藏着多少秘密
- 世界千米级高楼:竟出自这位80岁建筑师之手
- 人类最悲壮的一次阅兵:走过主席台直扑战场,许多人再也没有回来
- 从权利的分封性质看人类社会形态的发展进步历程
- 希腊神话里的五代人类,他们都有啥奇特之处?又是如何灭亡的?
- 人体这5个地方最易“藏”血栓!不想被“栓”住,这5个动作要少做
- 《永乐大典》,消失殆尽的中华瑰宝,人类历史最恢宏的百科全书。
- 面试难题:人体最不怕热的器官之思》 在河南
- 王嫩人体油画:裸而不俗,美而不媚的艺术珍品
- 四个已被科学家证明,可人类却难以接受的理论,看看有哪些?
- 太震撼了!人类造出十大逆天之物,堪称世界最难,颠覆你的想象!
- 人类交配会产生快感,但分娩时很痛苦,真是自然进化的最优解吗
- 人体免疫力最喜欢的十种主食
- 人类医学史上最伟大的 20个发明,你知道多少? 1
- 人类史上最伟大的探险种族,族群遍布太平洋各地,可能源自于中国
热门阅读
-
关于男人的15个世界之最,最长阴茎达56厘米 07-13
-
东方女性最标准的乳头(图片),看看自己达标吗 07-13
-
人体器官分布图介绍 五脏六腑的位置都在哪 07-13
-
木马刑是对出轨女性的惩罚 曾是满清十大酷刑之一 07-13
-
熙陵幸小周后图掩盖性暴力 至今保存于台湾博物馆 07-13
-
包头空难堪称国内最惨案件 五名遇难空姐照曝光 07-13
-
2022中国最新百家姓排名,你的姓氏排第几? 03-26
-
好玩的绅士手游有哪些?2022十大绅士游戏排行榜 10-18