“把实验停下来!”马斯克等超1000人签署公开信:所有实验室,立即暂停训练比GPT-4更强大的AI
每经编辑:毕陆名
当全社会都在为AI的进化而欢呼雀跃时,多位科技领袖也表达了深切担忧。
据生命未来研究所官网,3月22日,生命未来研究所(Future of Life)向全社会发布了一封《暂停大型人工智能研究》的公开信,呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练,暂停时间至少为6个月。该机构以“引导变革性技术造福生活,远离极端的大规模风险”为使命。
信中写道“只有在我们确信它们的效果是积极的,风险是可控的情况下,才应该开发强大的人工智能系统。”马斯克此前曾多次表达对人工智能的担忧,认为人工智能是未来人类文明最大的风险之一,威胁程度远高于车祸、飞机失事、毒品泛滥等甚至比核武器都危险得多。
截至目前,马斯克、苹果联合创始人Steve Wozniak、Stability AI创始人Emad Mostaque等上千名科技大佬和AI专家已经签署公开信。
值得一提的是,OpenAI CEO奥特曼在与MIT研究科学家Lex Fridman的最新对话中指出,AI已经出现其无法解释的推理能力,同时承认“AI杀死人类”有一定可能性。
图片来源:视觉中国
“加快开发强大的AI治理系统”
未来生命研究所的这封公开信题为“暂停巨型AI实验:一封公开信”,于29日解封。
以下是公开信原文:
正如广泛的研究和顶级人工智能实验室所承认的,人工智能系统对社会和人类构成较大的风险。《阿西洛马人工智能原则》中指出,高级人工智能可能代表着地球上生命历史的深刻变革,应该以相应的谨慎和资源进行规划和管理。然而,尽管最近几个月人工智能实验室掀起AI狂潮,开发和部署越来越强大的数字大脑,但目前没有人能理解、预测或可靠地控制AI系统,也没有相应水平的规划和管理。
现在,人工智能在一般任务上变得与人类有竞争力,我们必须问自己:我们应该让机器在信息渠道中宣传不真实的信息吗?我们是否应该把所有的工作都自动化,包括那些有成就感的工作?我们是否应该开发非人类的大脑,使其最终超过人类数量,胜过人类的智慧,淘汰并取代人类?我们是否应该冒着失去对我们文明控制的风险?这样的决定绝不能委托给未经选举的技术领袖。只有当我们确信强大的人工智能系统的效果是积极的,其风险是可控的,才应该开发。同时,这种信心必须得到验证,并随着系统的潜在影响的大小而加强。OpenAI最近关于人工智能的声明中指出,在开始训练未来的系统之前,可能必须得到独立的审查,对于最先进的努力,同意限制用于创建新模型的计算增长速度。我们同意,现在就该采取行动。
因此,我们呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练,时间至少持续6个月。这种暂停应该是公开的、可核查的,并包括所有关键参与者者。如果这种禁令不能迅速实施,政府应该介入并制定暂停令。
人工智能实验室和独立专家应在暂停期间,共同制定和实施一套先进的人工智能设计和开发的共享安全协议,由独立的外部专家进行严格的审查和监督。这些协议应该确保遵守协议的系统是安全的。值得一提的是,这并不意味着暂停一般的人工智能开发,只是从危险的竞赛中退后一步,限制不可预测的研究和开发。
人工智能的研究和开发应该重新聚焦于,使目前最先进和强大的系统更加准确、安全、可解释、透明、稳健、一致、值得信赖和忠诚。
同时,人工智能开发者必须与政策制定者合作,大幅加快开发强大的人工智能治理系统。这些至少应该包括:专门针对人工智能的监管机构;监督和跟踪高能力的人工智能系统和大型计算能力的硬件;出处和水印系统帮助区分真实和合成,并跟踪模型泄漏;强大的审查和认证生态系统;对人工智能造成的伤害承担责任;为人工智能安全技术研究提供强大的公共资金以及资源充足的机构,以应对人工智能可能导致的巨大的经济和政治破坏。
人类可以通过人工智能享受繁荣的未来。现在,我们成功地创建了强大的人工智能系统,可以在这个“人工智能之夏”中获得回报,为所有人的明确利益设计这些系统,并给社会一个适应的机会。停止使用其他技术可能会对社会造成灾难性影响,因此我们必须保持准备状态。让我们享受一个漫长的人工智能夏天,而不是匆忙进入秋天。
截至发稿,这封信已有1127名科技领袖和研究人员签名,除了马斯克、辛顿和马库斯之外,还包括图灵奖得主约书亚·本希奥(Yoshua Bengio)、《人工智能:现代方法》作者斯图尔特·罗素(Stuart Russell)、苹果公司联合创始人史蒂夫·沃兹尼亚克(Steve Wozniak)、Stability AI首席执行官埃马德·莫斯塔克(Emad Mostaque)等科技界领袖人物。
OpenAI CEO:“AI确实可能杀死人类”
据澎湃新闻3月28日报道,OpenAI CEO山姆·奥特曼称,并不否认过分强大的AGI“可能杀死人类”这一观点。必须承认,(AI杀死人类)有一定可能性。很多关于AI安全和挑战的预测被证明是错误的,我们必须正视这一点,并尽早尝试找到解决问题的方法。
值得注意的是,据财联社报道,近日,挪威机器人公司1X Technologies宣布完成A2轮融资,共筹集到2350万美元。OpenAI旗下创业基金领投此轮融资,Tiger Global以及一群挪威投资者也参与其中。
获得融资后,该公司创始人进一步表示,“1X很高兴能得到OpenAI的领投,因为我们的使命是一致的:将新兴技术有意识地融入人们的日常生活。在我们投资者的支持下,我们将继续在机器人领域取得重大进展,并增强全球劳动力市场。”
值得注意的是,人形机器人也是马斯克十分关注的方向。去年9月30日举办的特斯拉AI日上,马斯克展示了外界引颈期盼的人形机器人Optimus,马斯克曾表示,机器人业务将比汽车更具价值。
彼时,马斯克在发布会上表示,目前的人形机器人没有“大脑”,没有能在现实世界中导航的智能,而且非常昂贵且产量低。如今,OpenAI与人形机器人的牵手则让人期待。
高盛:全球将有三亿人失业
据红星新闻报道,ChatGPT迭代升级的脚步加快,很多人失业的恐惧也越来越重。高盛分析师布里格斯和库达尼在3月27日发布的研究报告中就直面了这一问题。
报告称:“最近出现的生成式人工智能将降低劳动力成本和提高生产率。尽管AI的潜力存在很大的不确定性,但它可以生成与人类创造成果无法区分的内容,并能打破人机沟通障碍,反映出具有潜在巨大宏观经济影响的重大进步。AI不仅节省劳动力成本,还能创造新的就业机会以及提高在岗工人的生产率。AI的革命性就像早期通用技术(如发电机和个人计算机)一样能为社会带来繁荣。”
图片来源:视觉中国
ChatGPT等生成式人工智能系统的最新突破,料将给全球劳动力市场带来重大颠覆,全球预计将有3亿个工作岗位被生成式AI取代,律师和行政人员将是最有可能被裁员的岗位。
高盛研究发现,目前欧美约有三分之二的工作岗位都在某种程度上受到AI自动化趋势的影响,而多达四分之一的当前岗位有可能最终被完全取代。该研究计算出美国63%的工作暴露在“AI影响范围”中,其中7%的工作有一半以上的流程可以由AI自动化完成,这使他们很容易马上被人工智能取代。在欧洲,情况也差不多。
据21财经,作为一种具备生产创造能力的智能形态,以ChatGPT为代表的AI近年来展现出令人瞩目的文字、图像、声音的生成或辅助生成能力,也不断刷新着人们对于AI最终取代绝大部分人类工作的担忧。
更为关键的是,当前的AIGC(人工智能生成内容)无需工资,亦不存在失业的概念,作为提供生产力的经济单位,其与宏观经济间的逻辑关系较人类发生了根本性改变,而这或许将给经济环境带来难以估量的影响。
每日经济新闻综合生命未来研究所、澎湃新闻、财联社、21财经、红星新闻
每日经济新闻
大家都在看
-
这些科学发现在 2024 年创下了新纪录 2024 年,研究人员取得了众多足以载入史册的发现 —— 无论是记录册还是历史书籍都会留下它们的印记。这一年的各项科学 “之最” 为我们的远古祖先、我们的地球以及与我们共同生活在地球上的动物带来了新的认知。1. ... 科技之最11-20
-
史上最强大的Mate!华为Mate 70系列定档11月26日:AI功能引爆期待 毋庸置疑,在如今的智能手机市场上,AI功能已然成为各大厂商竞争的核心焦点。从AI图像处理到AI信息摘要再到AI智能语音助手,这些智能化的功能正以颠覆式的体验,不断提升消费者的日常用机效率和便捷性。而在11月19日 ... 科技之最11-19
-
AI和量子:谁将主宰未来计算? 科技公司多年来向量子计算机投入了数十亿美元,希望它们能在金融、药物研发和物流等多元化领域带来颠覆性变革。在物理和化学领域,这种期望尤为强烈,因为量子力学的奇异效应在其中起着关键作用。从理论上讲,这是量 ... 科技之最11-19
-
6G 最强悍的特性,竟提前被这些手机厂商用上! 开头先问大家一个问题,你知道智能手机有哪些连接通信的方式?蜂窝网络、Wi-Fi、蓝牙这些我们最熟悉不过。刷门禁用 NFC,开空调用红外线,这些我们也都会用到。前几年兴起的 UWB,即超宽带技术,能帮助我们更精确地 ... 科技之最11-18
-
沉甸甸的国家科技进步奖一等奖:“超级工程”里的全球率先丨致敬广东科技脊梁② 《南方》杂志全媒体记者丨温柔通讯员丨粤科宣今年6月,2023年度国家科学技术奖在北京揭晓。其中,“港珠澳大桥跨海集群工程”斩获沉甸甸的国家科技进步奖一等奖。这一重磅奖项的背后,则是数万名建设者披荆斩棘,不 ... 科技之最11-14
-
2025,最可能在中国亮相的创新医疗“黑科技”,都在这里了 一年一度的中国国际进口博览会(下称“进博会”)缓缓落幕。在历年都备受关注的医疗器械展馆,今年总共集结了全球超过260家企业参展,全球10大医疗企业、11家世界500强制药公司悉数亮相。对于这些跨国医疗企业来说, ... 科技之最11-14
-
小米“钉子户”有必要换小米15吗?体验一周后我有了答案 自打小米15发布,我就收到了不少朋友的信息:小米15值得买吗?小米14有必要换小米15吗?小米xx值得换小米15吗?其中最纠结的当属小米14用户,因为单看小米15和小米14的参数对比,你会发现除了处理器和指纹解锁算是大 ... 科技之最11-11
-
开辟未来产业新赛道《2024硬科技白皮书》发布 “构建新质生产力,硬科技将是不可或缺的重要引擎。”在西安举行的2024硬科技创新大会系列活动国家硬科技创新示范区建设会议上,中科创星创始合伙人、硬科技理念提出者米磊发布《2024中国硬科技创新发展白皮书——开 ... 科技之最11-11
-
开辟未来产业新赛道 《2024硬科技白皮书》发布 “构建新质生产力,硬科技将是不可或缺的重要引擎。”在西安举行的2024硬科技创新大会系列活动国家硬科技创新示范区建设会议上,中科创星创始合伙人、硬科技理念提出者米磊发布《2024中国硬科技创新发展白皮书——开 ... 科技之最11-11
-
赵明称荣耀300史上最强 年终手机大战或是历年之最 在2024年最后的两个月,国内手机市场可能迎来近五年最激烈的年终大战。11月9日下午,荣耀CEO赵明出席线下门店活动为荣耀Magic7系列首销造势,在回答有关荣耀300新品的提问时,他自信地表示荣耀300将是史上最强的数字 ... 科技之最11-11
相关文章
- 开辟未来产业新赛道 《2024硬科技白皮书》发布
- 赵明称荣耀300史上最强 年终手机大战或是历年之最
- 以科技之光照亮未来之路——第十二届中国(绵阳)科技城国际科技博览会回眸丨奋力谱写中国式现代化四川新篇章
- 以科技之光照亮未来之路
- 清华大学教授刘兵:这本书写的不是科学前沿,而是最基本、最有价值的东西
- 全球最先进的 20 个高端产品,引领科技狂潮!
- 墨子:古代“黑科技”大师,如何用逻辑与木头打败整个世界?
- 既有高颜值,又有科技感,这里既是时尚秀场,也是美好生活
- 4000年前,中国两大工程,都是世界之最,有一项至今存在
- 科学最难以解释的“玄学”规律,照着这样做,或许会有益:1
- 解读余承东的“史上最强大的Mate!11月见!”
- 全球最神奇的20张照片,看完让你直呼神奇
- 来消费品展区一起体验“新”生活、“酷”科技、“最”潮流
- 华为 Mate70:科技巅峰之作
- 面向世界最前沿 打造原始创新策源地
- 美媒夸赞:中国这4方面转变会超越美国,成为世界第一大科技强国
- 常长亭:买科技股最简单的方法就是深挖华为产业链
- 定格《科学的七个瞬间》CCTV
- 定格《科学的七个瞬间》 CCTV-9央视纪录频道播出
- 与世界同行!2024顶尖科学家湾区论坛在广州举行
热门阅读
-
万事胜意不能乱说的原因?告诉你万事胜意该对谁说 12-09
-
科威特第纳尔为什么那么值钱?比美元值钱的货币盘点 12-22
-
撕心裂肺十大催泪情歌,10首哭到崩溃的歌曲 12-24
-
不敢公布马航真实原因,内幕曝光简直太惊人! 12-25
-
陈百强什么原因怎么走的,陈百强85事件是什么 01-05
-
麻将公式一定要背下来,麻将手气背转运小妙招 01-19