我们该如何教机器学习?
2013年夏天,一篇平平常常的帖子出现在谷歌的开源博客上,标题是《学习词汇背后的含义》。
帖子中说:“目前计算机还不太擅长理解人类语言,虽然离这个目标还有一段距离,但我们正在利用最新的机器学习和自然语言处理技术取得重大进展。”
谷歌从纸媒和互联网获取了大量人类语言数据,比以前最大的数据集还大几千倍,将数据集输入一个受生物学启发的“神经网络”,并让系统寻找词语的相关性和联系。
借助所谓的“无监督学习”,这个系统开始发现模式。例如,它注意到词语“北京”与“中国”的关系,同“莫斯科”与“俄罗斯”的关系一样,不管词语的意思是什么。能否说计算机“理解”了?这个问题只能让哲学家来回答,但是很显然系统已经抓住了它“阅读”的内容的某种本质。
谷歌将这个系统命名为“word2vec”――意思是将词汇转换成数字向量――并将其开源。对数学家来说,向量有各种奇妙的性质,你可以像处理简单的数一样处理它们,进行加、减、乘运算。通过这种方式,研究人员很快发现了一些惊人的意想不到的东西。他们称之为“连续空间词汇表示中的语言规律”,对它的解释没有听起来那么难。word2vec把词汇变成了向量,这样你就能对词汇做数学运算。
例如,如果输入中国+河流,就会得到长江。输入巴黎-法国+意大利,就会得到罗马。
输入国王-男人+女人,就会得到女王。
结果很惊人。word2vec系统开始应用于谷歌的机器翻译和搜索引擎,业界也将其广泛应用于其他领域,例如招聘,它成了科学和工程界新一代数据驱动的语言学家的必备工具。
两年过去了,没有人意识到存在问题。
这是一本关于机器学习与人类价值观的书:关于不通过手工编程而是从数据中学习的系统,关于我们如何教它们,以及教什么。
机器学习主要包括3个领域:无监督学习,机器被直接给予一堆数据,就像word2vec系统一样,目的是理解数据,找到模式、规律、有用的方式来提炼、表示或可视化数据;监督学习,系统被给予一堆已分类或标记好的例子进行学习,比如假释犯是否再犯,然后用习得的模型对从未见过或尚不清楚基本事实的新例子进行预测;强化学习,系统被置于一个有奖惩的环境中,就像补能和危险并存的赛艇赛道,目的是找出最小化惩罚和最大化奖励的最优方法。
越来越多的人意识到,世界正逐渐以各种方式依赖于机器学习领域给出的数学和计算模型。这些或简单或复杂的模型――一些只能算是电子表格,另一些则可被称为AI――正逐步取代人类判断和更传统的显式编程的程序。
这不仅发生在科技和商业领域,也发生在具有伦理和道德影响的领域。司法体系越来越广泛地使用“风险评估”软件来决定保释和假释。道路上的车辆越来越多地自动驾驶。我们的贷款申请、简历和体检结果逐渐不再由人类负责评估。进入21世纪,越来越多的人都在致力于让世界――在象征意义上和字面意义上――自动驾驶。
近年来,两个不同的群体敲响了警钟。第一个群体关注当前的技术伦理风险。如果面部识别系统对某个族群或性别特别不准确,或者如果有人被未经审核的统计模型判定不得保释,而法庭上的所有人――包括法官、律师和被告――都不理解,这就存在问题。这样的问题无法在传统的学科领域内解决,只能通过计算机科学家、社会学家、律师、政策专家和伦理学家的对话来解决。对话已经开始。
还有一个群体担忧的则是未来的危险。随着我们的系统越来越能灵活、实时地做决策,无论是在虚拟还是现实世界都面临这种危险。毫无疑问,过去10年见证了AI和机器学习发展史上最令人振奋但也最突然最令人担忧的进展。与此同时,一种无形的禁忌逐渐被打破,AI研究人员不再避讳讨论安全问题。事实上,过去5年,在这个领域,这种担忧已经从边缘变成了主流。
虽然对于应优先考虑眼前的问题还是长远问题,目前还存在争议,但这两个群体在大目标上是一致的。随着机器学习系统越来越普遍和强大,我们会发现自己越来越经常地处于“魔法师学徒”的境地:我们召唤出一种力量,给它一组指令,希望它自主但又完全顺从,然后一旦我们意识到指令不准确或不完整,又手忙脚乱地阻止,以免用我们的智慧召唤出某种可怕的东西。
如何防止这种灾难性的背离――如何确保这些模型捕捉到我们的规范和价值观,理解我们的意思或意图,最重要的是,以我们想要的方式行事――已成为计算机科学领域最核心、最紧迫的问题之一。这个问题被称为对齐问题(thealignmentproblem)。
随着研究前沿越来越接近开发出所谓的“通用”智能,现实世界的机器学习系统越来越多地介入个人和大众生活的道德伦理领域,对这一警告产生了一种突然的、充满活力的反应。一个多元化团体正在跨越传统的学科界限。非营利组织、智库和研究所纷纷积极参与。越来越多的工业界和学术界领袖开始大声疾呼,并相应地增加研究经费。第一代专攻机器学习伦理和安全领域的研究生已经入学。对齐问题的第一批应对者已到达现场。
书名:人机对齐
原版书书名:TheAlignmentProblem
出版时间:2023年6月
作者:【美】布莱恩·克里斯汀著;唐璐译
这本书是近100次正式采访和数百次非正式谈话的产物,历时4年,行程数万公里,来自这一年轻领域广阔前沿的研究者和思想家。我发现的是正在一片荒原上开拓的进程,既令人振奋,有时也令人恐惧。我原以为自己对这个故事很熟悉,结果却发现这个故事比我曾认为的更吸引人,更令人担心,也更充满希望。
机器学习表面上是技术问题,但越来越多地涉及人类问题。人类、社会和公众难题正在变得技术化。技术难题正在变得人性化、社会化和公众化。事实证明,我们在让这些系统“以我们想要的方式行事”方面的成功和失败,为我们审视自我提供了一面真实的、启示性的镜子。
这个故事由3个不同部分组成。
第一部分探讨对齐问题的前沿:现有的系统已经与我们的根本意图不一致之处,以及在我们觉得有能力监督的系统中尝试掌控这些意图的复杂性。
第二部分将重点转向强化学习,我们逐渐开始理解不仅能预测,而且能行动的系统;其中有一些经验可以帮助我们理解进化、人类动机和激励的微妙之处,对商业和育儿都有启发。
第三部分将我们带到AI安全研究的前沿,我们将了解目前最好的一些想法,如何将复杂的自动系统与过于微妙或复杂、无法明确的规范和价值观相结合。
不管是好是坏,未来一个世纪的人类故事都很可能是建立并启动各种各样的智能系统。就像魔法师的学徒一样,我们会发现自己也只是在一个充斥着扫帚的世界里的众多自主体之一。
我们到底该怎么教它们?教什么?
——互动问题——
你认为机器学习会有什么风险?
欢迎在文末留言,将随机抽选三位用户送出《人机对齐》一本。
获奖名单将在下期“蝌学荐书”中公布,欢迎留言~
恭喜上期获奖者@小燕子、@宋婷、@小沈 获得《读虫记》一本,请与蝌蚪君联系获取赠书。
责编:咕噜
大家都在看
-
机械行业中的40个金属之最,你都知道吗? 1、最纯的金属锗:区域融熔技术提纯的锗,纯度达“13个9”(99.99999999999%)。2、最多的金属铝:其丰度约占地壳的8%,地球上到处都有铝的化合物,普通的泥土中,也含有许多氧化铝。▲三水铝石是铝的氢氧化物矿物, ... 机械之最11-24
-
机器刻纸线条最细0.2毫米,这位非遗传承人能刻出0.1毫米 长江日报大武汉客户端11月23日讯(记者刘克取 通讯员贺军)一手握住雕刀,一手紧摁红纸,当刀尖没入纸张后,如发丝般的细密线条瞬息而成;使用车床将易拉罐薄壁由0.3毫米车削到0.1毫米以内,易拉罐薄而不破;遮住眼 ... 机械之最11-23
-
机器狼:巷战利器背后的科技突破与未来畅想】 前两天 【机器狼:巷战利器背后的科技突破与未来畅想】前两天,我在珠海航展现场,人群中偶遇一位老工程师。聊天间得知他已在国防工业战线摸爬滚打三十余载。说起这次展会上的”明星”机器狼,老工程师的眼里闪着光:”的无 ... 机械之最11-21
-
什么最可怕,未来战场机器狼群最可怕!#军事科技 什么最可怕?狼群最可怕。我国自主研究的机器狼来了,直接亮相珠海航展,还是群狼作战。很多人会问未来战争是什么样的?现在可以告诉你是无人装备。我国自主研究的机器狼作战小队现在有 4 个作战平台,它们之间可是 ... 机械之最11-17
-
碾压美军!中国机器狼群亮相珠海航展,武德充沛太残暴! 真的太酷啦!机器狗已经out了,解放军已经用上了“机器狼”,这把直接开启未来无人战争高端局。由中国兵器装备集团研发的机器狼群无人作战系统,首度在珠海航展动态展示,并迅速成为现场的焦点。岛内专家见到后直接 ... 机械之最11-16
-
2000年前人类的第一台计算机:安提基特拉机械之谜 全全探索局。说说历史上最大的谜团——人类发现了本不应该存在的古老计算机!1. 1900 年海绵潜水员在希腊小岛安提凯西拉附近发现了一艘沉船,他在海底发现了一只突出的青铜手,虽严重腐蚀但仍可辨认,他将发现报告给 ... 机械之最11-14
-
机械狼带给咱们的冲击感还没有消失呢 机械狼带给咱们的冲击感还没有消失呢,机械虎就横空出世了!这就像是在说,这台机器可不是你的玩具,它可是一个凶猛的野兽!这不禁让人联想起一些有趣的民间调侃,更让人深思这背后究竟蕴藏着怎样的军事理念?这些“ ... 机械之最11-14
-
当今最复杂的椭圆曲线找到了!29个独立有理点打破18年记录 选自quantamagazine作者:Joseph Howlett机器之心编译机器之心编辑部又是计算机帮了忙。对现代密码学稍有了解的人都必定听过椭圆曲线的赫赫威名,但椭圆曲线本身依然还存在很多悬而未决的问题。今天,量子杂志作者 J ... 机械之最11-12
-
实战版“汪汪队”来了 机器狗将首次亮相中国航展! 总台中国之声记者从兵器工业集团了解到,四条机器狗分队将参加地面装备动态演示环节,四足机器人具备综合打击、侦察探测、运输包装、操作处置等功能,将展示城市作战机动能力。启动、行走、爬坡、下楼……昨天在珠海 ... 机械之最11-09
-
机械硬盘这种“老古董”,怎么在大模型时代还供不应求了? 大家是不是觉得,搞人工智能就得买显卡、买网卡?其实啊,还有个被大家忽略的"主角"——存储设备,特别是咱们常说的硬盘。这不,最近硬盘价格蹭蹭往上涨,搞得大家直呼吃不消。你说硬盘这玩意儿,都快70岁"高龄" ... 机械之最11-08
相关文章
- 2000年前人类的第一台计算机:安提基特拉机械之谜
- 机械狼带给咱们的冲击感还没有消失呢
- 考研:机械高性价比院校,第一档机械五虎
- 当今最复杂的椭圆曲线找到了!29个独立有理点打破18年记录
- 大国重器背后的“90后” 汪泽:精密机械的操控者 于毫厘之间细雕琢
- 合作共赢创未来——写在第七届中国国际进口博览会开幕之际
- 闫妮机械姬:科技与魅力交织的科幻新象
- 倒背191步枪,解放军公布一窝6只“机器狼”,战斗力到底有多强?
- 实战版“汪汪队”来了 机器狗将首次亮相中国航展!
- 机械行业的发展现状与未来趋势分析
- 机械硬盘这种“老古董”,怎么在大模型时代还供不应求了?
- 每日数码科普之六十四:键盘什么轴好用?机械键盘轴体选择指南
- 娜然仿生机械姬
- 为神舟飞船造一顶“大伞”——走进中国航天科技集团五院508所航天器回收着陆团队
- 机械行业发展前景如何?全面解析与展望
- 机械哪个方向好?
- 我国古代的计时仪之最
- 新车停在机械车位,最担心的事情发生了……
- 给敌人递刀子?中企帮印度建最大最强炼铁高炉,将损害长远利益?
- 美国对中国大学机械工程排名!网友:如梦如幻
热门阅读
-
天下第一暗器暴雨梨花针,传说中的唐门暗器做出来了 07-13
-
世界十大大型船舶排名,第一能承重六十万吨! 07-13