“把实验停下来!”马斯克等超1000人签署公开信:所有实验室,立即暂停训练比GPT-4更强大的AI
每经编辑:毕陆名
当全社会都在为AI的进化而欢呼雀跃时,多位科技领袖也表达了深切担忧。
据生命未来研究所官网,3月22日,生命未来研究所(Future of Life)向全社会发布了一封《暂停大型人工智能研究》的公开信,呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练,暂停时间至少为6个月。该机构以“引导变革性技术造福生活,远离极端的大规模风险”为使命。
信中写道“只有在我们确信它们的效果是积极的,风险是可控的情况下,才应该开发强大的人工智能系统。”马斯克此前曾多次表达对人工智能的担忧,认为人工智能是未来人类文明最大的风险之一,威胁程度远高于车祸、飞机失事、毒品泛滥等甚至比核武器都危险得多。
截至目前,马斯克、苹果联合创始人Steve Wozniak、Stability AI创始人Emad Mostaque等上千名科技大佬和AI专家已经签署公开信。
值得一提的是,OpenAI CEO奥特曼在与MIT研究科学家Lex Fridman的最新对话中指出,AI已经出现其无法解释的推理能力,同时承认“AI杀死人类”有一定可能性。
图片来源:视觉中国
“加快开发强大的AI治理系统”
未来生命研究所的这封公开信题为“暂停巨型AI实验:一封公开信”,于29日解封。
以下是公开信原文:
正如广泛的研究和顶级人工智能实验室所承认的,人工智能系统对社会和人类构成较大的风险。《阿西洛马人工智能原则》中指出,高级人工智能可能代表着地球上生命历史的深刻变革,应该以相应的谨慎和资源进行规划和管理。然而,尽管最近几个月人工智能实验室掀起AI狂潮,开发和部署越来越强大的数字大脑,但目前没有人能理解、预测或可靠地控制AI系统,也没有相应水平的规划和管理。
现在,人工智能在一般任务上变得与人类有竞争力,我们必须问自己:我们应该让机器在信息渠道中宣传不真实的信息吗?我们是否应该把所有的工作都自动化,包括那些有成就感的工作?我们是否应该开发非人类的大脑,使其最终超过人类数量,胜过人类的智慧,淘汰并取代人类?我们是否应该冒着失去对我们文明控制的风险?这样的决定绝不能委托给未经选举的技术领袖。只有当我们确信强大的人工智能系统的效果是积极的,其风险是可控的,才应该开发。同时,这种信心必须得到验证,并随着系统的潜在影响的大小而加强。OpenAI最近关于人工智能的声明中指出,在开始训练未来的系统之前,可能必须得到独立的审查,对于最先进的努力,同意限制用于创建新模型的计算增长速度。我们同意,现在就该采取行动。
因此,我们呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练,时间至少持续6个月。这种暂停应该是公开的、可核查的,并包括所有关键参与者者。如果这种禁令不能迅速实施,政府应该介入并制定暂停令。
人工智能实验室和独立专家应在暂停期间,共同制定和实施一套先进的人工智能设计和开发的共享安全协议,由独立的外部专家进行严格的审查和监督。这些协议应该确保遵守协议的系统是安全的。值得一提的是,这并不意味着暂停一般的人工智能开发,只是从危险的竞赛中退后一步,限制不可预测的研究和开发。
人工智能的研究和开发应该重新聚焦于,使目前最先进和强大的系统更加准确、安全、可解释、透明、稳健、一致、值得信赖和忠诚。
同时,人工智能开发者必须与政策制定者合作,大幅加快开发强大的人工智能治理系统。这些至少应该包括:专门针对人工智能的监管机构;监督和跟踪高能力的人工智能系统和大型计算能力的硬件;出处和水印系统帮助区分真实和合成,并跟踪模型泄漏;强大的审查和认证生态系统;对人工智能造成的伤害承担责任;为人工智能安全技术研究提供强大的公共资金以及资源充足的机构,以应对人工智能可能导致的巨大的经济和政治破坏。
人类可以通过人工智能享受繁荣的未来。现在,我们成功地创建了强大的人工智能系统,可以在这个“人工智能之夏”中获得回报,为所有人的明确利益设计这些系统,并给社会一个适应的机会。停止使用其他技术可能会对社会造成灾难性影响,因此我们必须保持准备状态。让我们享受一个漫长的人工智能夏天,而不是匆忙进入秋天。
截至发稿,这封信已有1127名科技领袖和研究人员签名,除了马斯克、辛顿和马库斯之外,还包括图灵奖得主约书亚·本希奥(Yoshua Bengio)、《人工智能:现代方法》作者斯图尔特·罗素(Stuart Russell)、苹果公司联合创始人史蒂夫·沃兹尼亚克(Steve Wozniak)、Stability AI首席执行官埃马德·莫斯塔克(Emad Mostaque)等科技界领袖人物。
OpenAI CEO:“AI确实可能杀死人类”
据澎湃新闻3月28日报道,OpenAI CEO山姆·奥特曼称,并不否认过分强大的AGI“可能杀死人类”这一观点。必须承认,(AI杀死人类)有一定可能性。很多关于AI安全和挑战的预测被证明是错误的,我们必须正视这一点,并尽早尝试找到解决问题的方法。
值得注意的是,据财联社报道,近日,挪威机器人公司1X Technologies宣布完成A2轮融资,共筹集到2350万美元。OpenAI旗下创业基金领投此轮融资,Tiger Global以及一群挪威投资者也参与其中。
获得融资后,该公司创始人进一步表示,“1X很高兴能得到OpenAI的领投,因为我们的使命是一致的:将新兴技术有意识地融入人们的日常生活。在我们投资者的支持下,我们将继续在机器人领域取得重大进展,并增强全球劳动力市场。”
值得注意的是,人形机器人也是马斯克十分关注的方向。去年9月30日举办的特斯拉AI日上,马斯克展示了外界引颈期盼的人形机器人Optimus,马斯克曾表示,机器人业务将比汽车更具价值。
彼时,马斯克在发布会上表示,目前的人形机器人没有“大脑”,没有能在现实世界中导航的智能,而且非常昂贵且产量低。如今,OpenAI与人形机器人的牵手则让人期待。
高盛:全球将有三亿人失业
据红星新闻报道,ChatGPT迭代升级的脚步加快,很多人失业的恐惧也越来越重。高盛分析师布里格斯和库达尼在3月27日发布的研究报告中就直面了这一问题。
报告称:“最近出现的生成式人工智能将降低劳动力成本和提高生产率。尽管AI的潜力存在很大的不确定性,但它可以生成与人类创造成果无法区分的内容,并能打破人机沟通障碍,反映出具有潜在巨大宏观经济影响的重大进步。AI不仅节省劳动力成本,还能创造新的就业机会以及提高在岗工人的生产率。AI的革命性就像早期通用技术(如发电机和个人计算机)一样能为社会带来繁荣。”
图片来源:视觉中国
ChatGPT等生成式人工智能系统的最新突破,料将给全球劳动力市场带来重大颠覆,全球预计将有3亿个工作岗位被生成式AI取代,律师和行政人员将是最有可能被裁员的岗位。
高盛研究发现,目前欧美约有三分之二的工作岗位都在某种程度上受到AI自动化趋势的影响,而多达四分之一的当前岗位有可能最终被完全取代。该研究计算出美国63%的工作暴露在“AI影响范围”中,其中7%的工作有一半以上的流程可以由AI自动化完成,这使他们很容易马上被人工智能取代。在欧洲,情况也差不多。
据21财经,作为一种具备生产创造能力的智能形态,以ChatGPT为代表的AI近年来展现出令人瞩目的文字、图像、声音的生成或辅助生成能力,也不断刷新着人们对于AI最终取代绝大部分人类工作的担忧。
更为关键的是,当前的AIGC(人工智能生成内容)无需工资,亦不存在失业的概念,作为提供生产力的经济单位,其与宏观经济间的逻辑关系较人类发生了根本性改变,而这或许将给经济环境带来难以估量的影响。
每日经济新闻综合生命未来研究所、澎湃新闻、财联社、21财经、红星新闻
每日经济新闻
大家都在看
-
既有高颜值,又有科技感,这里既是时尚秀场,也是美好生活 新民晚报“上海时刻”出品展区数字:消费品展区位于5.1、6.1和6.2号馆,展览面积8.4万平方米,设置美妆及日化用品、智能家电及家居、时尚潮流及珠宝、体育及户外用品四大板块,宝玉石、文物艺术品两大专区,共汇聚来 ... 科技之最11-07
-
全球最神奇的20张照片,看完让你直呼神奇 世界之大,无奇不有。身处大自然中你经常能不经意间看到很多很神奇的美景,奇特的物种,接下来20张图带你领略大自然的神奇之处。1、皇绢毛猴 皇绢毛猴这种灵长类动物的得名,是因为胡子酷似德国君主威廉二世。2、乌龟 ... 科技之最11-05
-
华为 Mate70:科技巅峰之作 一、Mate70 发布前夕华为 Mate70 系列发布时间官宣定于 11 月,这一消息犹如一颗重磅炸弹,在科技圈掀起了巨大的波澜。华为常务董事余承东宣布,Mate70 系列将是 “史上最强大的 Mate”,并首发搭载纯血鸿蒙 Harmony ... 科技之最11-04
-
面向世界最前沿 打造原始创新策源地 文 | 《中国科学报》 记者 倪思洁翻开历史,不难发现,新中国成立后的75年是中国科技不断向前的75年。科技力量不仅成为我国经济社会发展的重要引擎,也成为中国获得国际地位和尊严的强大后盾。75年,在中国抢占科技 ... 科技之最11-03
-
美媒夸赞:中国这4方面转变会超越美国,成为世界第一大科技强国 【声明:本文内容均引用权威资料结合个人观点进行撰写】文|松鼠说事编辑|松鼠说事中国科技崛起:从“跟跑”到“领跑”的时代缩影曾经,"中国制造"是廉价、低端的代名词,科技领域更是被西方国家远远甩在身后 ... 科技之最11-02
-
常长亭:买科技股最简单的方法就是深挖华为产业链 华为业务版图,宛如一棵枝繁叶茂大树,根植于通信技术沃土,向上延伸至终端设备蓝天,从运营商网络基石,到企业业务桥梁,再到消费者业务繁花,每一个分支都与无数上下游企业紧密相连,共同构成一个充满活力与机遇生 ... 科技之最11-02
-
定格《科学的七个瞬间》CCTV 今年是中华人民共和国成立75周年,也是中国科学院成立75周年。从“向科学进军”到“建设创新型国家”,从“创新驱动发展”到“建设科技强国”,几代中国科学家风雨兼程、朝夕不倦,铺就了一条闪亮的自主创新、自立自 ... 科技之最11-01
-
定格《科学的七个瞬间》 CCTV-9央视纪录频道播出 中新网11月1日电 今年是中华人民共和国成立75周年,也是中国科学院成立75周年。从“向科学进军”到“建设创新型国家”,从“创新驱动发展”到“建设科技强国”,几代中国科学家风雨兼程、朝夕不倦,铺就了一条闪亮的 ... 科技之最11-01
相关文章
- 定格《科学的七个瞬间》CCTV
- 定格《科学的七个瞬间》 CCTV-9央视纪录频道播出
- 与世界同行!2024顶尖科学家湾区论坛在广州举行
- 荷兰有多发达?仅1800万人口却有四大顶尖科技,有的美国都做不了
- 4499元起!一加13来了,今年最狠的标准版旗舰?
- 在科普活动中感受科技魅力
- 首发骁龙8至尊版!小米15 Pro评测:史上最强悍的新一代钉子户机型
- 中国光刻机最新技术专利,中国科技再向前迈进了一大步!
- 青春铸就科技梦,这个团队真有“材”
- 德国人眼中的10大科技强国,美国排进了前三,那我国排第几?
- 德国人眼中的10大科技强国,美国稳居前三,中国实力几何?
- 我国科技,已经世界最先进,引发其他国家的嫉妒
- 你为什么不用电动牙刷?
- 史诗级暴涨中,金融科技成为最锋利的矛!
- 全球十大顶尖科技
- 比木星还小的恒星,轻松跑出银河系的恒星,宇宙十大恒星之最
- 揭秘科学巨匠:阿基米德——智慧之光,照亮力学与数学的天穹
- 科技之光,温情重阳——内江市中区科协的温馨走访
- 最火科技:潜力龙头+算力+cpo+机器人+食品饮料+全球第一+华为
- 央行新动向,科技板块崛起!中信证券透露大消息
热门阅读
-
万事胜意不能乱说的原因?告诉你万事胜意该对谁说 12-09
-
麻将公式一定要背下来,麻将手气背转运小妙招 01-19
-
不敢公布马航真实原因,内幕曝光简直太惊人! 12-25
-
撕心裂肺十大催泪情歌,10首哭到崩溃的歌曲 12-24
-
陈百强什么原因怎么走的,陈百强85事件是什么 01-05
-
科威特第纳尔为什么那么值钱?比美元值钱的货币盘点 12-22