【长期主义】第243期智能说：以色列AI圆桌论坛，黄仁勋AI洞察

最近以色列举办AI圆桌论坛，关于AI安全与人类未来，嘉宾阵容豪华，马斯克Elon Musk、OpenAI总裁联创Greg Brockman、AI学界领袖与暂停AI研究发起人Max Tegmark、以色列总理内塔尼亚胡，涵盖科技、商界、AI、学界、政界顶级大咖。

英伟达创始人、CEO黄仁勋2023年5月底参加一场AI峰会，会后接受主持人采访，黄仁勋畅谈对AI时代认知与未来发展想象，还分享管理英伟达方法与关于公司领导力独特洞察。

美国科技媒体The Information最新报道揭示，原本最有机会引领这一波生成式AI浪潮的，并不是微软，而是云计算市场领头羊亚马逊。早在5年前，OpenAI曾向亚马逊提出合作邀约，希望获得AWS云计算资源支持，遭到拒绝，OpenAI转而投向微软怀抱。

本期“长期主义”，选择以色列AI圆桌论坛纪要、黄仁勋的AI时代认知与领导力洞察、亚马逊5年前错失与OpenAI合作良机，Web3天空之城、Web3天空之城、华尔街见闻发布，六合商业研选精校，分享给大家，Enjoy！

正文：

全文27,986字

预计阅读56分钟

顶级大佬AI圆桌：Elon Musk、Greg Brockman、Max Tegmark、内塔尼亚胡

时间：2023年9月22日

字数：15,979

最近以色列举办AI圆桌论坛，关于AI安全与人类未来，嘉宾阵容豪华，马斯克Elon Musk、OpenAI总裁联创Greg Brockman、AI学界领袖与暂停AI研究发起人Max Tegmark、以色列总理内塔尼亚胡，涵盖科技、商界、AI、学界、政界顶级大咖。

Elon Musk：在座都是非常了不起的嘉宾。我想你们应都认识我，显然也认识总理，但如果各位能进行一下自我介绍，大家就会了解到，各位都取得令人赞叹的成就，请不要感到羞涩。

Greg Brockman：我担任OpenAI总裁，是该组织联合创始人。在2015~2016年，我们在我公寓创办OpenAI。

这确实是激动人心的时刻，我们不仅有机会推动这个领域前进，还尝试引导它朝着积极方向发展。我认为，这确实构成我对AI基本看法。让我对这个领域感到兴奋的是，它将带来如此巨大变革。

我相信它能为每个人带来巨大好处，我们确实需努力减轻潜在负面影响。我认为之前对话确实引起我的共鸣，我希望在接下来时间里，我们能探讨更多相关内容。

Max Tegmark：由于Greg过于谦虚，我要在他的自我介绍中补充一些内容。就在几年前，Greg与同事们提出，几年后，我们可采取行动，我们相信我们实际上有能力构建出能掌握人类语言与常识的AI。

我许多从事AI领域同事都表示，这简直像疯狂的科幻小说。他们认为这需几10年时间，但Greg，你们做到了。

Greg Brockman：2016年，我们确实招聘了一名实习生。那是我们第一个夏天，我们就如何解决图灵测试进行许多讨论，并且涌现出各种各样想法。我们说，3年后，我们将解决图灵测试。

那位实习生告诉我，他不想继续下去，这意味着他没成为我们全职员工。他就像是在说我们疯了一样。

3年后，我们研发出GPT-2。我们并没完全解决图灵测试，他是对的。但我认为，我们所取得的进展远超出大多数人想象。

Max Tegmark：我是麻省理工学院从事AI研究的教授。我觉得这与我们之前从你那里听到的观点一致，那就是AI既有利也有弊。很长一段时间以来，我一直对利益部分感到非常兴奋，即我们如何利用它来解决我们以前无法解决的问题，并有望帮地球上生命繁荣数十亿年。我对弊端部分也感到非常担忧。

9年前，我创建未来生活研究所的非营利组织。我们与Elon Musk一同，通过实施全球赠款计划、教育项目与会议等，首次试图将AI安全推向主流。Greg也参加这些会议，目的是确保我们能引导这项日益强大的技术走向安全，远离危险，成为祝福，而非诅咒。

内塔尼亚胡：我能说我想推荐这本书吗？你编写了这本书，我已阅读。这真是一本好书，一本非常优秀的作品。是ChatGPT写的，还是你编写的？

Max Tegmark：我有不在场证据，那时甚至Greg都没足够时间将其写下来。ChatGPT性能还不足以完成这项任务。

内塔尼亚胡：听你们这么说，确实令人感到欣慰。

我们来谈谈这个问题，我认为你带来的观点具有深远意义。当我目睹这个平台上众多人才时，我自己除外，我便想起肯尼迪所说的话。当他将一群天才人士带入白宫时，他说，这是自托马斯·杰斐逊独自用餐以来，最有才华的团队聚集在这里。

我认为你们将会超越这一点，正在书写历史。我坚信，拥有如此巨大影响力同时，也意味着肩负巨大责任。我认为我们在这里讨论的核心问题是，我们如何在这种指数级变革中融入适度责任心与道德观念。

你是如何实现这一点的？这确实是我很想从你那里了解的事。

Elon Musk：我认为这将是极富益处的讨论。我觉得我几乎认识AI领域每一位，而我实在想不出其中有谁会对AI抱有不良动机。在我所认识的AI领域人中，每个人都抱有良好动机，他们希望能创造出有助于世界的技术。

我们也可举例爱因斯坦这样的人物，他显然是酷爱和平的人，从未想过他在物理学上的发现会导致核弹诞生。他从未有过制造超级武器的念头，他的愿景是努力揭示宇宙的奥秘。

我始终认为，在对AI发展进行任何形式批评前，我们必须强调这并非是在批判那些从事AI开发的人员。我们要记住，正如爱因斯坦并未预见到他在物理学上的研究，会对核武器产生引领作用一样，即便抱有最良好意图，我们也有可能制造出有害的事物，这是可能的结果。

我们希望能采取一切可能的措施，以确保人类未来充满希望，使AI成为我们福音，而非祸害。

Greg Brockman：这确实是我投身于此的原因。我认为，虽然这一切并非出于恶意，但保持平衡确实至关重要。我觉得，真正校准技术选择是重要的一环，这项技术以令人震惊方式展现出来，人们的想象，就如同阅读阿西莫夫、各种科幻小说，以及埃利泽尤里德科夫斯基，还有人们对比人类更聪明的机器的所有思考一般，它们都未能真正预见到GPT-3，不知为何，我们正在开发的技术总是令人惊奇，它呈现出非常独特的属性。

我认为，即便是国际象棋这样的游戏，人们过去也认为一旦解决了它，我们就解决了人类智能的问题。事实证明，这只是首要任务。我认为我们真正看到的是，我们需进行校准，而不仅是看当前的系统正在做什么。这也是我们部署ChatGPT原因之一，我们不应陷入这样思维定势，认为这就是一切发展脉络，这一点至关重要。

这也是人们可能会滥用它的原因，但你真正需去看，需让人们投入大量时间去思考这个位置在哪里，它哪里有效，哪里无效，同时也要努力展望未来。我们在预测能力方面投入大量精力。在GPT-4版本中有一点未曾提到，那就是在我们训练GPT-4前，我们实际上已很好预测了GPT-4表现，这是我们以前模型永远无法实现。

我认为，要在社会层面实现这一点，这也许是我们如何真正实现目标的一个答案，如果你能预见未来走向，你就掌握了答案。在AI领域，情况却往往恰恰相反，我们总是会感到惊讶。

内塔尼亚胡：我想问你一些，这里涉及很多层面的问题。Max的书让你思考了一个存在主义问题：我们是在将机器智能还是人类智能投射到宇宙中。人类智能逐渐转变为机器智能，并成为宇宙的一部分等。

Elon Musk：这是一个很大的哲学问题，我想我们还有大约6年时间。

内塔尼亚胡：作为一个国家领导人，我正面临的其他课题也正是如此。在拥有大量AI人才方面，相较于AI人口规模，我们人才数量位居第二。我希望我们能进入前三，这对国家发展至关重要。我认为这也引发我们之前提到的问题，但这又是另外一回事。

随GPT-4推出，好莱坞针对编剧、导演、演员已发起罢工。你认为劳动市场会出现什么变化？你可告诉我，之前所有的革命都曾给我带来安慰。更多的就业机会诞生，同时也有更多就业机会消失。但你现在真的仍旧持有这种信念吗？

Greg Brockman：我认为这一点远非人们所能轻易看见的。这确实是恰当的问题。我还认为，重要的是要站在宏观角度看，明确确实有些工作会消失。

创造边缘就业的平衡点又是什么？你可述说这样一个故事，这会是极为安慰人心。观察以往每一项技术，我确实认为AI与之前所有技术都有所不同。我们通常看到的是机械部件的自动化所带来的创造，这几乎就是创造性的体现，但我认为我们还可更进一步。

的确如此，不仅是说，我原本可成为艺术家。现在AI已成为一位竞争对手。但你期望AI能帮我们提出新想法，解决我们以前无法解决的问题。这样的世界又将是怎样的？更进一步说，在后稀缺世界中，人们无需工作也能生存。

这样的人会是什么样的？人们常以工作来认同自己，你的整个身份都围绕你的工作，你是通过工作来认识与定义自己。

内塔尼亚胡：就是这样。接下来会发生什么？那会是什么样？

Greg Brockman：我并没给出关于这个平衡，最终会呈现何种状态的答案。我认为我们与工作的关系，以及我们与未来可能发生的重大事物的关系，都会发生根本性变化，并可能使整体形势显得截然不同。

这个问题的答案好比，如果你是名狩猎采集者，农业革命后，我们狩猎采集工作会发生什么？这只是奇怪的问题，就像你的思维框架发生变化。

实际情况并非如此，这不是说问题消失了。我认为实际上消失的工作岗位，可能会远多于新创造出来的岗位，还会有许多混乱与动荡。

但我认为我们必须走在变革前面。我们越能预测未来，就越能得到具体答案。我们有正在尝试解决这些问题的团队，但我认为我们才刚开始，我们需更多帮助。

它将改变我们经济模式。

内塔尼亚胡：我是位坚定的自由市场支持者。我已致力解放以色列经济，使其成为科技强国，这正是出于对自由市场的信仰，而自由市场意味着公开竞争。不过，你正处于垄断的边缘。

你就继续这么做吧。我与你一位同事彼得·泰尔Peter Thiel交流过，他告诉我，这全是规模经济的问题，都是垄断。我说，我相信这是事实。但我认为我们必须在某个时候制止它，我们不希望抑制竞争。AI正在崛起，这些市值万亿美元的公司，几乎是一夜间崛起，它们将巨大财富与权力集中在越来越少人手中。

问题在于，你会如何处理这种垄断力量？面对竞争，你会采取什么行动？如果你打算继续这样做，如果你会摧毁的工作机会比你创造的还要多，我们就必须调整我们经济与政治政策，来照顾那些找不到工作、无法为经济增值的人。

我们必须确保他们过上体面生活，享有所有必需服务。我们可能有能力负担这一切，但这需充满挑战的模式，尤其是对像我这样的自由市场支持者来说。这一切的变化都来得非常快，不会慢慢发生，给我们留出调整的时间。

Max Tegmark：我欣赏你对这个问题的挑战方式。将会发生什么？我想继续探讨这个话题，我认为，如果我们持续问这种非常被动的问题，我们会发生什么？我们就会坐在这里，吃着爆米花，等待未来发展，然后走向灭亡。

我认为这是种非常被动的态度，我们以前曾有过这样经验，当时地球上出现了比所有其他物种都聪明的新物种，结果尼安德特人灭绝了。如果我们持续以一种非常被动的方式参与其中，我认为人类很可能也会灭绝，这是种错误的态度。

即便在经济学领域，当你治理一个国家时，你也不会只是袖手旁观，看看会发生什么，然后导致童工与超级垄断等问题。你会问自己，你希望发生什么？然后你会建立制度，禁止童工，制定反垄断法。在这种情况下，我认为类似问题是，我们如何确保在利用日益强大的技术时，是我们控制AI，而非相反？我非常荣幸你能拥有这本书。

如果这本书还未让你入睡，这实际上是一篇我使用技术手段编写的论文，它讲述了我们如何通过真正控制比我们更聪明的机器来保证安全性，正是证明了这一点。我对这个证明部分感到兴奋，唯一能确信一个比你聪明得多的实体仍会按照你的意愿行事的方式，就是你能证明它，无论它有多聪明，它永远不能做被证明为不可能的事。

事实上，提出关于数学或程序将会做什么的证明，比检查证明的正确性要困难得多。你可编写300行的计算机程序，来检查任何其他证据。

我们可理解，如果我们迫使AI向我们，向人类证明某些事，它就会满足我们标准。这样，我们实际上就找到一种控制比我们更聪明实体的方法。你如何知道证据是无可争议的？这就是数学的魅力。即便是复杂的证明，你实际上也可检查它，它经得起检验。

通过证明网络安全程序的可行性，是一门重要的科学，公司已厌倦不断遭受黑客攻击，由于一个接一个错误与安全漏洞，而损失数百万美元，多年来一直在投资这个领域。

事实上，就在我们上台前，Greg与我进行了有趣的对话，讨论了这个试图证明事物安全的领域，是如何仍处于原始状态与大语言模型前的阶段，人类主要还在尝试制造证据。

我认为，一场革命已酝酿，OpenAI正在开发的技术，完全有可能极大提升我们验证代码的能力。

Greg Brockman：我认为这里存在更为广阔的图景。在我看来，考虑到网络安全，它始终像是一场猫鼠游戏。存在攻击者与防守者，双方不断升级技术，试图击败对方。会存在防守方完全获胜的时刻吗？攻击者会彻底取得上风吗？我认为通过AI，这种平衡或许有望被打破。

形式验证就是很好的例子，有可能让防守方一劳永逸取得胜利。当然，这里存在许多未知与变数。但我确实认为这是种可能性。在技术层面，形式验证的核心理念在于：如果你能在数学上证明这些系统是安全、无瑕疵的，如果你Linux内核没错误，过去10年我们所遇到的Heartbleed、Shellshock等众多错误，都将成为过去。这些问题将会消失，我们将不再担心未来会出现类似问题。

现在你需格外小心，你必须确保底层的机器模型实际上是正确的，还有许多其他类似细节需注意。有趣的是，我们所信仰的关于安全工作原理的基本知识有望变成现实。我们之前从未有过这样的机会，这将为我们提供大量的空闲时间。

Max Tegmark：要明白，在通常的调试过程中，我们所能做的只是证明系统中存在问题。如果没发现任何错误，我们是否就能确信系统是无瑕的？当你能进行证明，进行所谓的形式验证时，正如Greg所指出的，这意味着你得到一种保证。你与系统达成一种协议，确保正确性。

内塔尼亚胡：好的。顺便说一下，这其中确实包含了一种假设，即数学就是这样，它是宇宙的法则，是不会变化的。我们不会遇到某种外星数学。实际上，这种假设是没必要的。

Max Tegmark：你似乎对哥德尔不完备定理之类的理论有些了解。当处理各种形式的无穷大时，这会带来很大影响。所有计算机，即便是Greg拥有的最大服务器，也是有限的。我想说，我们仍需防范所谓的外星数学，但这完全可形式化为不可能侵入他的笔记本电脑。如果你有严格的证据，我认为这就是达成协议的条件。

内塔尼亚胡：我认为，除你提出的这些巨大问题外，对我而言，当前面临的问题是如何制定一项国家政策，我计划在接下来几个月内宣布这项政策。

你们正在激发我的思考。我不得不提及这次访问，但人们会思考，你希望实现什么目标？你们正致力改善所有系统，包括交通、卫生、教育、农业、生产，以及政府、私营部门、慈善机构、学术界等各个领域。政府在其中扮演什么角色？各国都在寻找解决之道。

你们从事什么工作？制造什么样的设备？我认为，更大问题在于，正如你之前提到的，马斯克，你依然在较小范围内垄断了AI的力量。你所说的基本上需巨大资源。你需大量数据、强大的计算能力、擅长创建算法的人才，这主要集中在少数几个国家。

我们还面临另一项任务，那就是不仅要确保我们照顾好自己，还要确保我们如何让这些利益惠及更多人，这是科学技术尚未做到的。我认为这是另一个真正问题。但至少到目前为止，在以色列我们取得一些进展，我对迪康基一无所知。我记得曾有过一些类似的事。

我不了解有一种可进入你肠道的摄像药丸，或从ICQ到樱桃番茄的其他任何产品，这些都有潜力造福于大众。在我看来，在AI领域，权力将会更加集中，贫富差距将会进一步扩大。这将是导致我们世界变得更加不稳定的另一因素。我不确定你是否知道如何解决这个问题。

Greg Brockman：首先，我想说，在人才密度方面，我们有许多顶尖的以色列工程师、科学家、经理，这是毫无疑问的。我们有一位经理，他曾是特种部队成员，管理着我们的一个核心团队，没什么能让他感到困扰。我认为以色列的方式，实际上对这个领域非常有利。我认为，如果这种富者愈富的现象是以牺牲他人利益为代价，反对这种现象就显得至关重要。

我认为我们追求的应是所有人都在共同进步的世界。我承认，会存在一定程度不平等，这是需解决的问题。我认为，像你这样的领导者需深刻认识到这一点。

我们已讨论了普遍基本收入UBI，实际上，OpenAI已进行了世界上最全面的UBI研究。人们讨论的是政府直接分配金钱的概念，这就是它的运作方式。在这样体系下，大多数人不再工作，自给自足。这是可能有效的机制吗？也许可，也许不可。有很多因素会影响它是否能奏效。显然，它也有很多缺点。

但我认为我们需寻找富有创造性的解决方案，我相信，正如防御与进攻的方式可能会从根本上改变经济生产一样，建立真正稳定社会所需的条件也将发生根本性变化。

内塔尼亚胡：记得有一次夜晚的谈话中，当我问到，当人们没工作，而我们还为他们提供资金时，他们会做什么时，你是如何回答的吗？你说，我记得你说过，生活在天堂有什么不好？我想你确实是这么说的。

Elon Musk：这是一个问题，涉及到一种类似天堂的概念。在天堂，我认为你不需工作，这是我在任何地方都没读到过的观念。人们不会因为这个观念而感到愉快，如果你愿意的话。

AI非常积极的场景在很多方面都可描述为天堂，实际上没人需工作。我甚至不会称其为全民基本收入，我更倾向于称之为普遍高收入。

我在这里描述的是最乐观的情况，我并不是说这一定会发生。存在着从非常消极到非常积极的各种可能场景。非常积极的场景，听起来基本上就像天堂一样，你可拥有任何你想要的，不需工作，没义务，任何疾病都可治愈。至于什么时候死亡，这是一个好问题，我想这将是一个选择。

内塔尼亚胡：我认为这最终可能是一种选择，你想要这样的世界吗？

Elon Musk：我并不确定，我不知道，这在某种程度上是一场哲学辩论。通常所描述的天堂概念真的是你想要的吗？你想在未来世界里，从AI角度看，我可做得比你更好吗？这是因为，你会像所有人类一样寻找生活的意义与有意义的工作。如果我能在每件事上都比你做得更好，那我们的生活还有什么意义？是享乐主义的生活？我不知道。这很难说。

但这确实是事情的积极发展方向，即商品与服务将无所不在。机器人与计算机可为尽可能多的人，制造尽可能多的任何东西，没任何限制。你所认为的任何稀缺性都是人为的，这意味着如果你认为人类创作的特定艺术品是独特、特殊的，这就是人为的稀缺性。

但除非我们为寻找稀缺性而人为定义，否则不会有真正的稀缺性。对很多人来说，这是非常美好的未来。我个人可能会感到有些沮丧，我会想，我现在应做什么？你会想出一些事来。

Max Tegmark：我认为这是一系列极具挑战性、有趣的问题。如果人们没了工作，我们该如何应对？但我认为要记住的重要一点是，我们不会突然消失。在这种情况下，一切还需依你的思考。

现在，在我看来，我们很可能最终会面临这样的境况：由于没人工作，我们实际上会走向灭绝。我们在5月发布了一份声明，我想Sam Altman与你都签署了，乌苏拉·冯德莱恩几天前也发表声明，强调我们必须认真对待人类灭绝的问题。

如果这听起来像是疯狂的科幻小说，那或许我们只是在开玩笑，但就在几年前，你所取得的所有成功听起来也像是科幻小说。你说我们没太多时间，这些事可能很快就会发生。这对我来说非常重要，我希望在美好的未来中思考我们如何避免这类情况。

很明显，我们最终可能会陷入这种不妙的未来，我们可能会失去对更智能事物的控制，这个观点并不新鲜。图灵在50年代就提出过这样的看法。这是很自然的事，当新的、更聪明的物种出现时，它就会控制旧物种，这是我们星球上以前经常发生的事。然后，尼安德特人与猛犸象就消失了。

更具体的说，我认为，虽然好莱坞充满了人以某种方式失去对AI控制，并被AI接管的情景，但还有更多隐秘的方式可能导致我们最终陷入这种不利的状态。举例来说，我现在也是自由市场的忠实支持者。

事实上，如果人们与他人竞争，他们通常会自愿放弃控制权，让机器来掌控，以获取比其他人更大的优势。使用机器替代工人的公司，会比不使用机器的公司更有竞争力；将控制权交给机器的军队，会比不这样做的军队更有优势。

一旦我们拥有真正强大的AI，它能更好管理公司、国家、人类，使用AI管理的国家，可能会在竞争中胜过其他国家。我们最终会面临这样的未来，所有这些事都在发生，但它不再属于我们。我们会想，等一下，我们哪里出了问题？这原本应属于我们的。

内塔尼亚胡：但这正是问题所在，我借用了你书中一页，我承认，我是一个物种歧视者。我是站在人类这一边的。我们可讨论其他的进化、机器驱动的智能等，但在我看来，我是支持人类的。

在犹太传统中有种说法，我们应如何翻译？你自己的城市、你自己镇上的贫困人口，应优先于其他城镇的贫困人口。对我来说，人类就是这样，我非常关注人类的保持。

我要说的是，我们面临的问题不仅是灭绝，我希望你能进一步阐述这一点，还有其他问题。即使我们没灭绝，我们应如何定义自己？

Greg，你谈到了这一点。我们如何定义自己？我们在圣经中有这样一个神话。有天堂、伊甸园。你可直接从树上摘取果实，无需付出任何努力。然后，蛇出现了，把一切都弄乱。

从此，我们注定要为劳动而劳苦。生活就是一场斗争，它被定义为一场斗争。你与自然、与其他人或动物竞争，不断提升你的地位，这就是人类对自身的定义。无论是作为个体，还是作为国家，亦或是整个人类，我们的自我定义都是基于这一点。

现在，这种定义可能会受到挑战，并且实际上已受到挑战。这是我们在整个人类历史与演化过程中的自我定义。这个定义正受到挑战，这也是我们持续存在的问题。你可解释一下，为什么你认为我们面临更加持久的危险？

Greg Brockman：我想说，在我看来，我心中构思的整个论述弧线都是关于范式转变。我在思考，即使是AGI带来的乌托邦式积极未来，它会是什么样？我认为，我们很难想象真正的好处是什么，它不仅与物质丰富有关。这不仅意味着我们都将拥有好车，最好是特斯拉，更多的是，每个人都能接受良好的教育，对吗？

每个人都有这样的故事：有位老师在某个特定领域激发了他们兴趣。试想，如果每个人都有一位能满足自身持续学习需求的老师，我们会变得多么优秀？我们与他人的关系会变得多么融洽？这只是个例子，展示了这一变革可能带来的种种利益。

我认为关键问题在于，作为人类，我们的定义是什么？如果回溯过去，我们又该如何预测未来将会发生什么？

实际上，我认为雷·库兹韦尔Ray Kurzweil是对AI革命发展趋势洞察最深的思想家。他的《奇点临近》一度被批评，我觉得有人可能会认为它像部宗教文本，但实际上它是部深入的分析性著作。他仅凭计算的发展曲线就指出，这是解锁智能的关键。那时，大家都认为这个想法太疯狂。但现在，这基本上被视为常识。

他提到的一点是，2030年代将会发生的事是，首先，他预测2029年将实现AGI。我一直告诉人们，这个预测看起来几乎是完全正确的，这真是令人震惊。2030年代是人类与机器合并的时代。那时我们已有神经链接技术，也许还会有其他类似的系统。一旦你真正与AI融合，这将意味着什么？

Elon Musk：神经链接技术的发展速度必然会比AI慢，每当你将设备植入人体时，都必须格外小心。我不确定神经链接是否会在AGI前准备就绪。我认为，AGI可能会首先出现，但我们会面临这样的情况。

一旦数字超级智能成为所谓的奇点，就像黑洞一样，人们称AGI的奇点为奇点，很难预测穿过黑洞的事件视界后会发生什么。我们目前正围绕这个数字超级智能的事件视界。

不过，我敢肯定神经链接的一部分原因，尽管最初对大脑或脊柱受伤的人来说非常有帮助，只是进行基本的操作，例如，使四肢瘫痪的人或像霍金那样的人能更快交流，甚至比我这样功能完善的身体还要快。最终目的，是为提高大脑皮层与你的AI版本间的通信带宽。

实际上，我觉得很多人可能并没完全意识到，他们已是赛博格。你有你的边缘系统，你的基本驱动力，你的皮层，这是用来思考与规划的。然后是第三层，即你的计算机、你的设备、你的手机、笔记本电脑、所有的服务器与应用程序。

实际上，我觉得很多人会发现，如果你离开的手机，如果你忘记你的手机，就会有肢体缺失的感觉。你会不断想：它去哪了？这就像失去身体一部分。你的手机实际上是你的延伸，限制在于通信带宽。

你输入，或我应说输出到手机或电脑的信息速度非常慢。对手机来说，它实际上只能跟随你拇指移动速度。你知道，最快情况下，你可能是键盘上的快速打字员，但即便如此，数据传输速度也极为缓慢，我们讨论的是每秒几十到几百比特，而计算机每秒可进行数万亿比特的通信。

这确实是个远景，如果你能提高你大脑皮层与你数字化第三方自我间的通信带宽，在人类的需求与AI的执行间，你可取得更好的成绩。这至少是种理论，我并不是说这是确定的事，它只是种潜在的可能性。

如果最终，数亿人能实现与他们数字化第三方自我、AI自我的高带宽连接，这可能会为人类带来更美好的未来。这有点深奥，但我希望其中一些是有意义的。如我所言，这是一个可能性，但我发现有趣的是，我还没见过有人愿放弃他们大脑皮层或边缘系统。或说，他们的手机。我怀疑这里没人愿这样做，这是一条准则。

内塔尼亚胡：的确我遇到过一些人想要使用手机，但又不实际使用手机的情况。这是非常罕见的。

实际上，我要承认，多年来，我一直在避免使用手机。我甚至不仅没在我生活周围使用手机，也没使用电视机。我所用的手机是35年前的款式，作为以色列总理，我深知这背后的含义也许你们观众不甚了解，但我们清楚。

现在，在成为反对派成员一段时间后，我开始使用手机，我发现很难摆脱它。正如你所言，它已成为我们记忆的延伸，成为我们能迅速获取信息的工具。你说得对，这个过程非常慢，但相较于以前，已有长足进步。要知道，以前研究助理们必须去图书馆查找资料，情景已一去不复返。与你在这里所讨论的相比，这都将被视为非常的原始。

Elon Musk：我想补充一些内容。我会去找麦克斯，但这确实挺有趣。就像在最理想情况下，试想如果你是AI，而你正在尽力让人类告诉你，他们想要什么，希望他们能说出来，但他们说话速度非常缓慢，就像树木在交流一样。

如果你仔细观察一棵树，这棵树就像是生长速度加快了的版本，它实际上是在与周围环境沟通，与土壤交流，向阳光生长，对其他树木等事物的反应非常缓慢。但从树的角度看，这一切都不算慢。

我想说的是，我们并不希望成为一棵树，这就是高带宽神经接口的重要性，即使AI极力想要满足我们需求，有了这种接口，我们实际上可实现比现在快几个数量级的通信速度。

Max Tegmark：我很欣赏你提到树的比喻，对那些还在努力理解我们为何很可能会被AI所取代的人来说，对超级智能的AI而言，我们就如同树一般，它们思考速度远超过我们，就像我们相对树木一样。

如果雨林中一些树木开始担忧会有人类来砍伤它们，它们可能会说：不用担心，我们非常聪明，我们会阻止这些人类。

我很喜欢你以哲学角度来探讨人类意义。我想在这方面深入讨论一下。在此前，也许我们可继续当前的话题。

内塔尼亚胡：你是如何看待AI带来的潜在威胁？我们有机器、超级机器、超级智能机器，它们速度比人类快了好几个数量级，它们未必会像我们所期望的那样重视人类生存，甚至有可能将我们排除在外，这基本上是你的观点。

Max Tegmark：如果我们愚昧到创造比我们更强大，但目标与我们不同的实体，确实是非常糟糕的主意。

在以色列，我想你非常清楚，如果你遇到一群聪明人，但他们不与你共享价值观，情况可能会变得非常糟糕。

我们不能犯这样的错误：赋予机器过多权力，而不传达我们价值观。但显然，我们可通过多种方式解决这个问题。我们具体能做些什么？

我想说，对我个人来说，作为人类，我最珍视的一点是，我有真正做出选择，并产生变化的能力。你们运用技术所做的最美妙的事之一，就是赋予我们更多代理权。可回想一下，在中世纪，我们预期寿命只有30岁，而今天，我们越来越多成为技术的主人，实际上获得更多作为物种的代理权。让我们运用这种能力，来创造美好的未来，而不是抛弃它。

我想提出三个，我们可采取的具体行动项目，并会对每个项目详细说明。其中之一与暂停有风险的活动有关，一种与控制机器有关，还有一种与未来的灵感有关。

至于控制，我们已讨论了很多保持对这些机器控制的重要性，我就不再赘述。我们不应只是被动观望，而是要积极行动，不仅问自己，我们认为会发生什么，还要问我们希望发生什么。显然，我们想要控制这些机器，我们正在建造它们。

第二，我在很多方面都同意Greg的观点，我非常尊重你的工作。我们间唯一的分歧可能是，我签署了一封呼吁暂停最危险活动的信，但你没有。

我认为这是很好的策略，我们可借鉴生物技术的做法，设定明确的安全标准。如果你想推出一种新药，你不能只是在超市里出售，你必须进行临床试验，以某种方式证明安全性。

我希望看到那些真正高风险、非常强大的系统也能有类似标准。这些公司应有责任在其产品被发布前证明安全性。标准由谁制定？我们已解决这个问题，在以色列与美国，这个问题都已通过生物技术得到解决。

内塔尼亚胡：但在这里，你希望是由监管机构，还是立法机构，来制定这些标准？这不是唯一的选择，但这确实是非常明显的二分法。我认为我们不需重新发明轮子。

Max Tegmark：在以色列，决定药物是否获得批准的，不是议会或以色列议会的成员。这是正确的，是以色列的科学家负责此事，但政府会参与批准他们的决定。确实，我们完全可借鉴这一模式。

马斯克可为我们提供关于汽车处理的各种指导，我不想在这个问题上纠结。我只是觉得这并不复杂，我们可将这些标准落实到位，然后继续借助AI技术进行各种令人振奋的工作。某些事物可能需等待更长时间，但这样等待是值得的，这是为了安全。

我想说的最后一点是，为真正利用这个机会并共同努力，不仅是公司间，是跨国界，我们确实需共同的、积极的愿景。这是我非常欣赏的一点。

而你，马斯克，比大多数人更有勇气，更敢于展望未来，展现出积极的愿景。是什么让人们愿合作，把小争端放在一边？这始终是共同的、积极的愿景，人们意识到，如果我们合作，大家都会过得更好。

需明白，技术不是零和游戏。以瑞典与丹麦为例，几个世纪以来，这两个国家不断发生争斗，经济发展平平，但随技术出现，两国情况都得到大幅改善。

你正在开发的技术，通过AI，能改善全人类生活，不仅是地球上的。我喜欢我们之前列出的，关于AI如何彻底改变医疗保健与许多其他领域的观点。

我想补充的是，既然宇宙如此美丽，生命可在其中繁衍生息数十亿年，为什么要将我们限制在这个星球？如果我们越能意识到潜在好处，我们就会越有动力保持耐心，确保一切安全，从而实现美好未来。

内塔尼亚胡：或许我们在社会与政治发展方面确实有些滞后，这就像是拥有核技术的石器时代。

你会如何使用它？我认为，这大致是我在讨论发展速度与节奏时提到的，基本上是我们需采取什么措施，来最大化利益，并限制风险。我觉得我们就在这个点上，我们应达成共识。几天前，你在参议院，我猜你正在讨论这个问题。你不必透露你不能透露的内容，但可分享你能透露的信息。

Elon Musk：会议参与者众多，我并不认为这是机密信息。这次会议，仅是关于监管的讨论。实际上，OpenAI Sam Altman也出席了会议，还有其他一些领导人也在场。我个人认为，总的来说，建立某种监管机构是明智之举。

从一个团队开始，集合洞察以达到最大程度理解，接着你会提出一些拟议的规则，最终确定实施的法规。

这是我们对所有可能对公众构成潜在危险的情况，采取的措施。我们有FDA来监管食品与药物，有联邦航空局来监管飞机与火箭。随时间推移，一切都可能对公众构成危险。很多时候，只有在多人丧生后，我们才从惨痛教训中觉醒，认识到必须有一个监管机构来保卫公共安全。

我并不认为监管是万能药，但它确实会带来利益。当然，监管也存在一些缺点，比如会使事情进展变慢，有时可能会出现监管擒获等问题。

总的来说，我认为公众并不希望摆脱大多数监管机构，你也可将监管机构视为裁判。有哪个体育比赛是没裁判的？我们需有人确保大家公平竞争，不违反规则，这就是为何几乎每项运动都会设有裁判。

这就是AI安全的基本原则，我一直在世界各地推广这一观点。几个月前，当我在中国与一些高层领导会面时，我主要议题便是AI安全与监管。经过长时间讨论，他们一致认为AI监管是有益的，并已立即采取相关行动。

有时我们会听到这样观点：如果西方进行AI监管，而中国没有，如果中国领先了，该怎么办？我认为他们也非常重视这个问题，这与你所设定的系统道德约束是相反的。Greg，我不知道你对此有何看法。你对这个问题有何见解？

Greg Brockman：我再次觉得，这种技术几乎完全背离了你所期望的工作方式。很多人都在讨论制造回形针的问题。

问题在于，如果你让一台机器以制造尽可能多的回形针为目标，它可能会变得极为智能。所有的房屋、工厂等都将不再生产回形针，而只是用于生产纸张。在这个情境下，对回形针来说，所有挡道的人都将被看作原子的更佳排列，但这并不是我们实际采取的技术路径。

看看GPT-3，它是一个能体现细微差别的系统，这是常识。当然，它也存在其他问题，会犯一些人类永远不会犯的错误。它有时会失去思维链条，说出一些奇怪的话，有时甚至会编造事实，好像我们真的面临着真实问题一样。

但在我看来，最困难的部分，是如何将这些微妙之处真正融入我们所见到的技术中，特别是当它偏离我们直觉的预期时，这实际上非常有趣。

马克斯提到了暂停信，暂停信的一部分重要内容是在未来6个月内不要训练GPT-5。我们想了一下，无论如何，我们在接下来的6个月内都不会训练GPT-5。如果你稍微错过了机械层面上正在发生的细微差别，其中一些实际上是必要的，你需真正深入了解我们的工作，并与我们开放交流，展示我们正在进行的工作。

当你考虑转向这些非常强大的系统时，我认为技术的发展，还带来另一方面好处与坏处。我们讨论了数字超级智能，也谈到ChatGPT。这些都是非常不同的概念，但它们间似乎存在平滑的连续体。

我认为，幸运的是，我们能窥见未来。我们对我提到的一种系统有了一些了解，一种适合每个人的个性化导师，你可拥有它。现在看来，它还不是完美的导师。它有很多问题，但你可免费使用ChatGPT来提问，有时它会给你一些非常有洞察力的答案。公平的说，我会给它打七分、七点五，但你会看到，我们会有机会参与进来。我们会的，一定会的。

我认为当我们还能嘲笑它时，人们能看到它的实际效果真是太好了。我认为，当它开始提出新想法时，你会输入一些在家里遇到的问题，试图弄清楚如何做某事。它会回应，你应对这个人说这个，你应这样做，这是你应如何重新安排你的日程。这样的伟大想法会让人感觉非常不同。

然后有一天，当我们真的有了一个系统，它可自动进行大量研究并说，这是这个复杂的化学公式，请按这些方式将它们混合在一起。在开始混合这些化学品前，你需确保该物质是可靠的。

我认为这个问题在于，我们如何区分当前AI技术与应用的扩展，实际上，我们正在进行的所有讨论，都是为让这些发生。

开源技术就像每个人都在建设的那样，我们不应压制它们，我们应推广这些。但我认为，展望未来，在这场竞赛中领先，并预见到将会有一个点，那就是我们碰到墙壁，我们将建造有史以来最大的机器。

就像Elon Musk谈论那些拥有大量计算机的数据中心一样，这是一种你必须亲眼见到才能真正感受到的东西。就像我走过一些数据中心大厅，你只会被即将建设的规模所震撼。当它在抽象层面上像你看到的数字与GPU那样展现时，感觉就完全不同。你会突然意识到，背后的机械力量是如此巨大。

我认为我们需国际社会来解决这类问题。我完全同意你的看法。

内塔尼亚胡：我认为，首先，虽然我们尊重暂停按钮，但实际上我们无法实现它，这种情况不会发生。我认为我们无法将精灵重新装回瓶子，并且我并不确定我们能否减缓发展速度，我们唯一能做的是加快我们自己的进程。

我同意你的观点，这必须是国际化的努力。我觉得，应首先从价值观念与目标相同的国家开始这项工作。坦白说，你肯定清楚AI所代表的是什么，它代表了美国与以色列。

显然，我在强调我的国家，但这并非无的放矢，我认为以色列人才济济，与美国相比，它不仅是小国之一。更甚者，它是非常灵活、迅速、结构紧凑的哺乳动物。并且，它得到军队支持，军队反应迅速，占据了国家很大一部分人口，人才的选拔与培养也非常迅速。我认为应从有共同志向的国家开始合作。

你们应进行一场深入而热烈的对话，首先确定哪些是我们不愿分享的，这显然与我们安全有关。我们有道德标准与其他规定，我们必须在行业与政府间迅速达成这些标准。然后，我认为我们必须基于世界其他大国的利益，与他们进行激烈的讨论，正如你们已开始的那样，这将是项开创性的工作。我认为我们也许有机会在某种程度上掌控我们的未来，这将是令人惊奇的事。

我不确定我是否愿生活在天堂，那里可能会很无聊。我说的无聊不是指公司，而是生活本身可能会很无聊。我认为我们正在前进，我宁愿生活在无聊的天堂，也不愿生活在有趣的地狱。

Max Tegmark：在特斯拉，他们对暂停按钮有个不同的叫法，他们称之为休息。当我们发布这封暂停信时，我个人并不认为会立刻产生暂停的效果。对我而言，它的真正目的，是让有关这些问题的对话变得主流，这的确已发生。

我真的非常感激你与Sam，以及你的同事们都非常坦诚表示，如果达到某些标准，未来可能会考虑暂停某些活动。

现在，如果 Elon Musk表示他可能会放慢特斯拉发展速度，而我知道特斯拉确实存在问题，我会更加相信他的这一说法。这意味着他们已有一种机制，他可通过这种机制实际上减缓速度。

实际上，这是我非常好奇的一点，我想听听你的看法。你们有什么标准？可透露一下，现在是否已有了？例如，有哪些情况会让你们考虑暂停活动？即便你与Sam想要暂停，面对商业压力，实际采取机制进行抵制，并继续前进难道不是一大难题吗？

Greg Brockman：我实际上有些赞同你们两位的观点。我看法是，我对AI未来发展方向并不持乐观态度。

你在不断扩大模型的规模，可能会发现一些奇怪的现象，随后你可能会想停止所有扩展工作，大家都回家等，这绝对不会发生，我认为我们需以最快速度努力实现美好的未来。

Max Tegmark：这正是你们不想暂停的原因，你们实际上想要加大推进的力度。现在的问题是，什么样的行动实际上可帮你实现这个目标？有哪些人持反对意见？

Greg Brockman：我认为这些细微差别正是我们应讨论的。这也是为什么我在某种程度上不太同意暂停的观点，我认为，即便是GPT-4都已提前完成了所有这些预测工作，而预测工作本身就有些不稳定，我们还没完全实现这一目标。

我们一直在进行这样的工作，有时会发现一些实验结果比较奇怪，我们不太确定我们是否真的理解了它，我们实际上投入大量时间来解决这个问题。

即便抛开安全原因不谈，我们之所以这样做，其中一个原因也是出于安全考虑。但如果你忽略这一点，就无法构建良好的系统。我认为在AI中，能力与安全性、构建有用与安全的东西间，实际上存在很好的一致性。虽然它并不完美，但我认为其中存在的分歧，实际上是令人惊讶的。

实际上，我们看到的最大分歧，并不是部署的速度太快，我实际上认为，推出产品，就像你可看到的，市场是不喜欢幻觉，不喜欢模型编造出一些东西。我们所有的笑话，都没能给出很好的见解，市场不喜欢这些，实际上，我认为解决这些问题非常符合安全性的要求。

但市场真正迫使我们反对的是，它与其他价值观，例如隐私，产生冲突。当我们最初启动GPT API时，我们是全程监控，我们会记录一切。如果出现一些粗略的情况，我们会进行查看，然后我们就可回顾日志，看到你做了什么。人们不喜欢这样，你希望其他人都这样做，但对自己来说，你想要隐私，如何平衡这两者？

实际上，我们在实际赢得交易方面看到这一点，也就是说，能向公司保证我们不会保留他们任何数据，我们会立即删除它，这对我们来说是个问题，这使得我们无法进行任何事后调查。

我认为这是政府可发挥很大帮助的地方，规范可明确的指出，尽管这是商业上最可行的做法，但这就是规定的规则，每个人都必须遵守，这样就不会有竞争到底的情况发生。

我再次认为，这一切都会变得非常微妙。我认为，这个领域是完全违背直觉的，就像我们学到的一切一样，这会让你感觉像是10年前告诉自己一样，这听起来完全是不可能的疯狂之举，我们必须找到某种方式来解决这个问题。

内塔尼亚胡：在这次交谈中，我唯一能补充的就是，我诚邀各位来以色列。实际上，我希望能继续这场对话，并邀请更多的同事与领袖一同与志同道合国家的探讨国际战略。要强调的是，首先是志同道合的国家，而不是全世界。

这作为一个行动计划怎么样？不过，我认为你们工作做得非常出色，没什么不足之处。

马斯克描述人类说，人类是什么？它是一种双腿生物，与猿类相似，具有皮层与计算机，还有它的需求、欲望与大脑。大脑正以我们无法想象的方式发展，这个过程不会停止。

Elon Musk：从我之前的其他评论看，或许我应补充一些内容。数字化希望，并非以一种非常具体、可控的方式，而是以一种对人类有益的方式运作，这就像我们皮层为我们边缘系统服务一样。大脑皮层，也就是思考的部分，不断试图让本能的部分感到快乐，尽管它比本能部分要聪明得多。

我认为数字超级智能虽然比我们大脑皮层聪明得多，但它仍会希望让大脑皮层，以及最终让边缘系统感到快乐。在这里我们不需过于深入，但可多思考一下人们为性行为所做的很多事，并不是为繁衍后代，而仅是为让边缘系统快乐。考虑到人们对性的追求，基本上只是为满足欲望，而不是为生育，这一切都是为让我们边缘系统带来快乐。

我认为这实际上说明，即使我们无法完全理解数字超级智能，就像边缘系统无法完全理解大脑皮层一样，它最终仍可能试图让我们边缘系统与皮层感到快乐。

内塔尼亚胡：这是一个快乐的结尾吗？

Greg Brockman：我认为这是一个很好的结束语。

内塔尼亚胡：谢谢大家。

Nvidia黄仁勋的AI时代认知与领导力洞察

时间：2023年6月30日

字数：10,025

Nvidia黄仁勋2023年5月底有一场AI峰会访谈，黄仁勋在这个对话里深谈对AI时代认知，以及公司领导力的独特洞察。

主持人：我太高兴能与你在一起，黄仁勋Jensen，能从你身上学习真的太荣幸。我想回到你对深度学习产生信心的那一刻，你还记得那是什么时候？

黄仁勋：非常好。我了解深度学习时间与其他人差不多，也许略早一点。

这是几个研究小组同时试图参加2012年ImageNet大赛，我想有两件事，一是使用刚上市最新型的GPU，即GeForce GTX580；二是学习如何为深度神经网络编程。我们很幸运能比其他人略早一点了解它们。

那时它被称为神经网络，如你所知，在那个时期，AI不太流行，神经网络是可疑的研究领域。但尽管如此，我们还是提供帮助，我们尽了最大努力。

对我来说真正引人注目的是它有效性。当然，当你看到惊人的有效技术时，下一个问题是这种技术将如何扩展，它还可解决什么其他问题。

由于神经网络的性质，与每一层相互隔离，反向传播方法非常有效，你可想象它将被大规模扩展，事实证明我们是正确的。

我们观察结果是，AI既是深度学习，也是一种解决难以指定问题的算法，这也是一种开发软件的新方法。

想象你有一个任意维度的通用函数逼近器，无论问题维度与大小如何，只要你有足够大的模型，你就可反向传播它，并学习它。我认为推断出这一见解，对我们来说真的很重要。我们深信它的潜力，我们意识到这将成为开发软件的新方式。

那时起，我们称之为软件2.0。但我们观察到，起初这是一种开发软件的新方式，我们意识到可能需彻底改变计算方式。

那时起，你可回顾并意识到，可能是自IBM 360系统以来60年里，第一次使用GPU与深度学习，加速计算真正实现重新发明计算机。如果你愿意这样认为的话，我们可能在发现量子计算之前，就已发明量子计算。

主持人：确实，我认为那是非常重要的时刻，我们很幸运能把所有要点联系起来。

是的，我记得读到研究团队论文，以及他们如何开始部署它。这令人难以置信，给人深刻印象，之前没人真正将GPU用于这一用途。

但是，自从模型架构开始发展以来，你认为它们发展方向是什么？当时是卷积神经网络CNN。我们现在看到对多模态的支持越来越多，这让你对此感到兴奋吗？你认为模型架构发展方向是什么？

黄仁勋：让我们拭目以待。研究人员做的工作，是将几乎每一个问题、每一种类型的数据，重新表述为Transformer可学习的内容。可创建视觉Transformer、音频Transformer、Transformer，几乎可用任何东西创建一个Transformer。

出于非常明确的原因，多模态确实非常重要，它们的表现更好。例如，如果我们说，你正在尝试训练视觉神经网络，而你除马以外什么都没见过，你从未见过斑马。但是，如果你添加另一种模态，比如文字，你就会明白斑马是一匹有黑白条纹的马。不知怎的，马的图像与文字对黑白条纹的理解，让模型在没见过斑马的情况下想象斑马的样子。

这样你就扩展了你的表现，你可使用多模态来增强感知的稳定性。我们为相机、雷达、激光雷达这样做。我们结合多个传感器模式，以便我们可扩展你的感知能力，涵盖所有传感器模式的超集。

我想，你也可通过模棱两可的事物来增强能力，例如，如果我要说，那是什么，我言语与手势的结合可帮你理解我的意思。使用代词很难做到这一点。多模态非常重要。现在，我们有Transformer模型，我们表达Transformer的理解方式来理解多模态。

我认为下一代AI模型，将具有更高的性能、更安全、更稳定、可完成更多任务，我认为这将是重大进步。我认为真正令人着迷的，是我们已能从语言中推导出多少东西。我们基本上从可应用于非常广泛背景的语言中，推导出这个世界模型。

主持人：但是，你还谈到了教授这些模型物理知识。你认为这是必要的吗？或者，当这些模型变得多模态时，我们能否从训练数据中推导出来？例如，当它们在视频训练中得到训练时，它们能否从训练数据中学习这一点？

黄仁勋：是的，我想可以。让我们看看，世界上几乎所有的事物都已用文字描述过了。是的，物理学也已用文字描述过了，牛顿定律也已用文字描述过。你可想象，我们可通过世界的词语库学习几乎所有的物理效应。

如果你从未见过红色，真的很难想象红色意味着什么。但是，如果有足够多的诗歌来描述红苹果的美丽以及它与其他红色苹果的比较，我不会感到惊讶。而且，心形红色，表情符号之类的东西。通过所有这些词，你已关联起来，这一定是红色的。通过比较与对比，在没见过的情况下，你一定能理解这一点。

但是，如果你没能力把所有这些不同的事物结合起来，你永远无法理解某种事物的感觉及其微妙之处与细微差别。我认为向人们传授物理效应是可能的。但是，如果你想预测物理定律，也就是说，具有物理现象的事物，你需将AI建立在物理学的基础之上，这与今天使用增强学习与人类反馈来塑造大型语言模型没什么不同。

在未来，你将使用物理反馈的增强学习。而这个物理反馈，不是人为的，而是通过某种物理模拟表达的机器人的反馈。我们创建了Omniverse系统，它遵守物理定律，我们可让Omniverse本质上是机器人的数字双胞胎。

那个具体化的语言模型，会得到增强学习的物理反馈，模拟物理反馈，Omniverse的数字双胞胎反馈。我的确认为，对某些类型的机器人来说，你想要建立在物理真理的基础之上，你想建立在伦理真理的基础之上，这就是人类，这就是协调，这是帮我们创建更安全聊天机器人的一种方式。

我认为这两个想法在某种程度上是相互平行与合理的，我认为这将是有帮助的。这可能就是我们最终在这个模拟中结束的原因，这就是你开始做这些实验的原因。

主持人：你认为上限在哪里？你认为我们可继续运作现有的模型架构，稍微发展一下，规模化，计算化吗？或者，我们需彻底的突破与很快就会达到收益递减？

黄仁勋：首先，我不知道背后科学原理。但直觉会表明，我们智力有许多方面都是应用规则，要么学习规则，要么表达规则。我们公司，特定社会，特定文化中的许多原则与规则，都是简单通过文字表达。你没学习它的其他存在。

不可杀人，不是通过尝试直到发现不可杀人才学会的事，我们只是学习了它。我们得到了这个规则，有许多规则可在不需学习情况下表达，我认为这种符号推理可增强这些详尽学习的模型。

我不知道背后的科学原理，以及它是否表明这种方式，但直觉上，我们通过增强学习、经验学习，以及只是事就是这样而学习的东西来增强我们智力。

最令我们兴奋的一件事，就是现在也有可能增强人类智力。如果我们能为研究人员提供运行成千上万次并行实验的工具，而不是替代这些工具，那将是很棒的。

主持人：随着时间推移，你如何看待人类在此方面作用？一旦我们达到这方面比人类高出几个数量级的智力，我还能发挥什么作用？

黄仁勋：我不知道。但我周围都有在某些技能方面比我高出几个数量级的人，我与他们共存没任何问题，我已生活在被超级智力包围的环境中。

相对我自己，我觉得他们能做的事我无法想象。不知怎的，我在其中存在得相当和谐，我认为我们会提高基本智力。

我们提高了许多事物，这些事物随着时间推移使人类资源大批量化。我们通过农业民主化了食物狩猎，我们不必再追赶或被食物追赶。我们当然民主化了能源的生产，身体较小与较弱的人可生活在物体比较重的世界上。你不必只是庞大与肌肉发达，才能生存于这样的环境中。

我们民主化了能源获取，社会在其能力方面有所提高。我认为我们现在正在民主化智力的生产。但我认为，对那些拥有深入领域专业知识与某些令人难以置信的热情的人来说，价值仍将存在。正如你提到的，通过试验所有这些未来情景的能力，我们可放大自己的热情与专业知识。

另一方面，我对此抱有希望，在我40年职业生涯中，绝大多数人口没学会如何使用我们称之为计算机的这种仪器。只有少数人，我认为你在青少年时期就开始学习如何编程计算机了。对绝大多数人来说，他们不知道BASIC，不知道Python，不知道Pascal或Fortran或C或C++或Java，他们不知道如何编程这些计算机。

尽管对世界上少数人来说这很合理，大约100万人，但数十亿人至今仍不知道如何做到这一点。

现在，有了ChatGPT，编程语言的首选项是人类。你可用瑞典语编程，我可用英语编程，你可编程去编写一个程序来编程另一台计算机。我们首次在历史上实现编程民主化，我无法不相信这将赋予目前看到这种价值创造工具与生产力工具的数十亿人力量。

这个令人难以置信、以光速旅行的机器，我们称之为计算机。第一次，每个人都可使用它，我希望它能弥合数字鸿沟。我认为你可为此提出理由，你现在就能实时看到这种情况，孩子们在网上激励这些机器，编写惊人的程序，生成美丽的图像，他们只是孩子，他们不知道如何编写程序，但他们可做这件事。

主持人：我认为，NVIDIA在加速计算方面所做的工作令人着迷，你们使用AI来开发更高级计算。你能告诉我这个循环是什么样的吗？

黄仁勋：我们当前一代芯片如此之大、如此复杂，我们公司所有员工都不可能设计出来。我们使用AI来帮我们设计、探索设计空间。正如你所说，我们尝试了数十万种