我们该如何教机器学习?
2013年夏天,一篇平平常常的帖子出现在谷歌的开源博客上,标题是《学习词汇背后的含义》。
帖子中说:“目前计算机还不太擅长理解人类语言,虽然离这个目标还有一段距离,但我们正在利用最新的机器学习和自然语言处理技术取得重大进展。”
谷歌从纸媒和互联网获取了大量人类语言数据,比以前最大的数据集还大几千倍,将数据集输入一个受生物学启发的“神经网络”,并让系统寻找词语的相关性和联系。
借助所谓的“无监督学习”,这个系统开始发现模式。例如,它注意到词语“北京”与“中国”的关系,同“莫斯科”与“俄罗斯”的关系一样,不管词语的意思是什么。能否说计算机“理解”了?这个问题只能让哲学家来回答,但是很显然系统已经抓住了它“阅读”的内容的某种本质。
谷歌将这个系统命名为“word2vec”――意思是将词汇转换成数字向量――并将其开源。对数学家来说,向量有各种奇妙的性质,你可以像处理简单的数一样处理它们,进行加、减、乘运算。通过这种方式,研究人员很快发现了一些惊人的意想不到的东西。他们称之为“连续空间词汇表示中的语言规律”,对它的解释没有听起来那么难。word2vec把词汇变成了向量,这样你就能对词汇做数学运算。
例如,如果输入中国+河流,就会得到长江。输入巴黎-法国+意大利,就会得到罗马。
输入国王-男人+女人,就会得到女王。
结果很惊人。word2vec系统开始应用于谷歌的机器翻译和搜索引擎,业界也将其广泛应用于其他领域,例如招聘,它成了科学和工程界新一代数据驱动的语言学家的必备工具。
两年过去了,没有人意识到存在问题。
这是一本关于机器学习与人类价值观的书:关于不通过手工编程而是从数据中学习的系统,关于我们如何教它们,以及教什么。
机器学习主要包括3个领域:无监督学习,机器被直接给予一堆数据,就像word2vec系统一样,目的是理解数据,找到模式、规律、有用的方式来提炼、表示或可视化数据;监督学习,系统被给予一堆已分类或标记好的例子进行学习,比如假释犯是否再犯,然后用习得的模型对从未见过或尚不清楚基本事实的新例子进行预测;强化学习,系统被置于一个有奖惩的环境中,就像补能和危险并存的赛艇赛道,目的是找出最小化惩罚和最大化奖励的最优方法。
越来越多的人意识到,世界正逐渐以各种方式依赖于机器学习领域给出的数学和计算模型。这些或简单或复杂的模型――一些只能算是电子表格,另一些则可被称为AI――正逐步取代人类判断和更传统的显式编程的程序。
这不仅发生在科技和商业领域,也发生在具有伦理和道德影响的领域。司法体系越来越广泛地使用“风险评估”软件来决定保释和假释。道路上的车辆越来越多地自动驾驶。我们的贷款申请、简历和体检结果逐渐不再由人类负责评估。进入21世纪,越来越多的人都在致力于让世界――在象征意义上和字面意义上――自动驾驶。
近年来,两个不同的群体敲响了警钟。第一个群体关注当前的技术伦理风险。如果面部识别系统对某个族群或性别特别不准确,或者如果有人被未经审核的统计模型判定不得保释,而法庭上的所有人――包括法官、律师和被告――都不理解,这就存在问题。这样的问题无法在传统的学科领域内解决,只能通过计算机科学家、社会学家、律师、政策专家和伦理学家的对话来解决。对话已经开始。
还有一个群体担忧的则是未来的危险。随着我们的系统越来越能灵活、实时地做决策,无论是在虚拟还是现实世界都面临这种危险。毫无疑问,过去10年见证了AI和机器学习发展史上最令人振奋但也最突然最令人担忧的进展。与此同时,一种无形的禁忌逐渐被打破,AI研究人员不再避讳讨论安全问题。事实上,过去5年,在这个领域,这种担忧已经从边缘变成了主流。
虽然对于应优先考虑眼前的问题还是长远问题,目前还存在争议,但这两个群体在大目标上是一致的。随着机器学习系统越来越普遍和强大,我们会发现自己越来越经常地处于“魔法师学徒”的境地:我们召唤出一种力量,给它一组指令,希望它自主但又完全顺从,然后一旦我们意识到指令不准确或不完整,又手忙脚乱地阻止,以免用我们的智慧召唤出某种可怕的东西。
如何防止这种灾难性的背离――如何确保这些模型捕捉到我们的规范和价值观,理解我们的意思或意图,最重要的是,以我们想要的方式行事――已成为计算机科学领域最核心、最紧迫的问题之一。这个问题被称为对齐问题(thealignmentproblem)。
随着研究前沿越来越接近开发出所谓的“通用”智能,现实世界的机器学习系统越来越多地介入个人和大众生活的道德伦理领域,对这一警告产生了一种突然的、充满活力的反应。一个多元化团体正在跨越传统的学科界限。非营利组织、智库和研究所纷纷积极参与。越来越多的工业界和学术界领袖开始大声疾呼,并相应地增加研究经费。第一代专攻机器学习伦理和安全领域的研究生已经入学。对齐问题的第一批应对者已到达现场。
书名:人机对齐
原版书书名:TheAlignmentProblem
出版时间:2023年6月
作者:【美】布莱恩·克里斯汀著;唐璐译
这本书是近100次正式采访和数百次非正式谈话的产物,历时4年,行程数万公里,来自这一年轻领域广阔前沿的研究者和思想家。我发现的是正在一片荒原上开拓的进程,既令人振奋,有时也令人恐惧。我原以为自己对这个故事很熟悉,结果却发现这个故事比我曾认为的更吸引人,更令人担心,也更充满希望。
机器学习表面上是技术问题,但越来越多地涉及人类问题。人类、社会和公众难题正在变得技术化。技术难题正在变得人性化、社会化和公众化。事实证明,我们在让这些系统“以我们想要的方式行事”方面的成功和失败,为我们审视自我提供了一面真实的、启示性的镜子。
这个故事由3个不同部分组成。
第一部分探讨对齐问题的前沿:现有的系统已经与我们的根本意图不一致之处,以及在我们觉得有能力监督的系统中尝试掌控这些意图的复杂性。
第二部分将重点转向强化学习,我们逐渐开始理解不仅能预测,而且能行动的系统;其中有一些经验可以帮助我们理解进化、人类动机和激励的微妙之处,对商业和育儿都有启发。
第三部分将我们带到AI安全研究的前沿,我们将了解目前最好的一些想法,如何将复杂的自动系统与过于微妙或复杂、无法明确的规范和价值观相结合。
不管是好是坏,未来一个世纪的人类故事都很可能是建立并启动各种各样的智能系统。就像魔法师的学徒一样,我们会发现自己也只是在一个充斥着扫帚的世界里的众多自主体之一。
我们到底该怎么教它们?教什么?
——互动问题——
你认为机器学习会有什么风险?
欢迎在文末留言,将随机抽选三位用户送出《人机对齐》一本。
获奖名单将在下期“蝌学荐书”中公布,欢迎留言~
恭喜上期获奖者@小燕子、@宋婷、@小沈 获得《读虫记》一本,请与蝌蚪君联系获取赠书。
责编:咕噜
大家都在看
-
我国古代的计时仪之最 时间是人类创造出来的一个概念。可能与光有关,也可能与生长有关,还可能与外星人有关……光影(图片来自网络,下同)很早,人类就发明了用来计量时间的设备。从粗糙到精致,从大概到精准。从时间计量仪器的演变就可 ... 机械之最11-07
-
新车停在机械车位,最担心的事情发生了…… 1刚买的“吉利银河” 被机械车位压坏杭州拱墅区有个富越香郡盈座何女士在这里租了一套公寓还租了一个机械车位说是取车时刚买来一个多月的新车被压坏了该怎么修怎么赔几方无法达成一致何女士:10月19号下午3点多我去 ... 机械之最11-06
-
给敌人递刀子?中企帮印度建最大最强炼铁高炉,将损害长远利益? 今年9月,在印度发生了一件大事,我国给印度修建的最高规格的钢铁高炉在印度塔塔钢厂2号高炉点火投产。为什么说这对于印度来说是一件大事呢?因为此次中国五矿集团旗下公司所研发的这款钢铁高炉非常不一般,它是世界 ... 机械之最11-06
-
每日数码科普之五十一:键盘的进化与现代趋势 在数码时代,键盘作为最基本的输入设备之一,已经从简单的文字输入工具,发展成了富有科技感和个性化体验的数码产品。从经典的机械键盘到轻薄的无线键盘,各类技术的进步为键盘带来了更好的手感、功能性和设计上的多 ... 机械之最11-05
-
2024年双十一机械键盘入门及选购推荐(含无线键盘、游戏键盘) #理想家生活#本内容来源于@什么值得买APP,观点仅代表作者本人 |作者:DMN多米诺各位好,我是多米诺。双十一到了,希望各位都能买到适合自己的键盘。长文预警,建议先赞再收藏慢慢看。需要注意,本文不含铝坨坨卷王 ... 机械之最11-04
-
山东一只“机器狗”火遍全网!确实厉害→ 这几天,泰山上一只机器狗火遍全网。它驮着重物,在陡峭山路上“健步如飞”,从泰山山脚的红门到山顶仅用了两小时,是普通人登山时间的一半,攀登泰山,轻松拿捏。据介绍,这是泰山文旅集团物业公司测 ... 机械之最11-04
-
太空“豪宅”!揭秘中国空间站的非凡性能→ 我国的空间站自2022年底完成在轨建造以来,已经成为了一座国家太空实验室,也成为中国航天史上目前规模最大、长期有人照料的空间实验平台。随着神舟十九号飞船航天员乘组进入太空,我国空间站应用与发展阶段的第四次 ... 机械之最11-04
-
机械行业最不缺的就是一线牛马!毕业生如何脱颖而出? #机械 机械行业的现状!1. 机械行业永远缺愿意干活的牛马,永远缺画图狗。本人作为一名机械工程师,在各种大厂待过很多年,从事机械设计行业已经 12 年了,月薪 32k 左右。2. 这十几年的经历整理了很多学习机械的书籍和资 ... 机械之最11-04
-
长沙工程机械何以走俏非洲? 中新网湖南新闻11月1日电 (记者 鲁毅 徐志雄)从肯尼亚“世纪工程”蒙内铁路,到非洲第一高楼埃及标志塔,再到非洲最大的露天铜矿赞比亚卢姆瓦纳铜矿……伴随这些非洲“超级”工程的稳步推进,中联重科起重机、三一重 ... 机械之最11-02
-
全球最宽轧机成功热试 记者从河南钢铁集团获悉,全球最宽轧机——河南钢铁集团周口基地5600mm轧机10月31日成功进行热负荷试车,轧制出第一块宽厚板。这是我国钢铁极限制造领域的又一次成功跨越,标志着世界宽厚板轧机迈入5600mm新时代。河 ... 机械之最11-01
相关文章
- 全球最宽轧机成功热试
- 十年磨剑破解城市地下超窄空间施工难题
- 机械设备最关心电缸什么
- 重回兵器谱排行第一名,迈凯伦F1继任者W1来了
- 用事实说话 盘点京东最热销的十大机械键盘
- 《尼尔:机械纪元》评测8.0分 顶配的屁股和低配的开放世界
- 寻访“两弹一星”亲历者丨最需要的地方
- “2024中国工程机械专业化制造商50强”发榜
- 在平凡中见证伟大!《环球时报》独家探访青藏铁路“天路卫士”
- 共享发展机遇 中捷机械工业合作潜力大
- 运动机械手表哪几个品牌最专业?
- 最低 99 元,这些机械键盘手感是真的好
- 意大利军用三蹦子—摩托古兹机械骡子”
- 机械类最吃香专业是什么?再看该专业2024年在浙江省分数线是多少
- 机械专业刚读大学最应该做的是什么 #学习计划
- 揭秘!这所“半步211”大学,与海为邻,机械专业傲视群雄
- 华特磁电添世界级科技成果,博阳机械粉尘回收率超99.9%!科创中国“试”出齐鲁样板
- 潍坊临朐:蓄势腾飞正当时 积厚成势勇前行
- 张雪峰谈机械类专业:最吃香的三个专业是什么?
- 从国之重器到日用百货 各行各业由大变强挺起发展脊梁
热门阅读
-
天下第一暗器暴雨梨花针,传说中的唐门暗器做出来了 07-13
-
世界十大大型船舶排名,第一能承重六十万吨! 07-13