重视聊天机器人背后的语言知识与伦理
【新闻随笔】
作者:饶高琦(北京语言大学汉语国际教育研究院助理研究员)
最近一段时间,人工智能和互联网领域最火的话题莫过于智能对话系统“生成式预训练模型聊天机器人”(ChatGPT,暂译,以下简称“聊天系统”)。该系统不仅支持包括中文在内的多语聊天,而且还能够扮演角色,甚至执行编程。对于或诙谐或严肃的提问,它的表现令人感到惊艳:相当多的知识内容正确,语言表达更是流畅,并且还支持多轮连续聊天。因此,不少人感慨“自己已经沉迷于和它对话”“让它替我编程、写稿,效率提升”,甚至有人用它生成了某行业的咨询报告,通过对话引导它生成的书也在亚马逊线上出版。但在聊天系统流畅交谈的表面下,其对人类知识的掌握仍不可靠。随着测试的增加,也有越来越多的人感慨它“常常一本正经地胡说八道”。错误信息以纯熟的语言表达出来,因而更加隐蔽。但无论如何,在不少人认定本轮人工智能泡沫开始破碎的时间点,它的诞生无疑是给人们打了一剂“强心针”。
人工智能所涉任务众多,语言智能却越来越成为方法、技术、应用方面的领先领域。正如聊天系统对自己的介绍:“我是一个语言模型。”该系统得以驾驭极其广泛的知识内容,来自对互联网文本内容的获取和“理解”,进而形成了自己的“知识体系”。其中所涉技术十分复杂,但它的成功无疑以十分直观的方式向我们展示了语言之于人类知识乃至人类思维的重要性。人工智能的核心在于知识的获取、表示和运用,语言无疑是其中关键。教科书上“语言是人类最重要的思维工具”“人类九成的知识由语言承载”的论断在人工智能系统的应用上得到了淋漓尽致的展现。知识和思维的承载物是语言,因而也赋予语言无可替代的资源属性。智能技术的发展和落地,频繁向传统语言学的教育和研究发出信号:构建语言资源、挖掘语言中的知识、探索语言知识的形式表达,是最切中数字社会命脉的发展方向。
当然,正如过去几十年中任何一项智能技术的成熟落地一样,聊天系统也引起了一波“失业潮”的舆论。这样的担心实不必要。过去几十年里,智能技术成熟引起的“失业潮”几乎从未出现,短期内或许会搅动局部行业,但长期来看却相反。技术应用本身也催生了大量新岗位,例如聊天系统的研制本身依赖于海量的人工数据标注和反馈,数据标注师和测试员岗位需求巨大。
更深层次来看,与聊天系统强大的语言生成能力不匹配的是它对知识的真正掌握程度。大量模棱两可乃至错误的信息混杂在流畅的对话中,反而令其更加难以被发现。诚如清华大学马少平教授所说:“人工智能最大的问题是不知道自己不知道什么,也不知道自己真知道什么,什么问题都能回答,结果如何就不得而知了。”在一般性知识极易获取,复杂知识参差不齐的背景下,人类专家的专业判断力和经过思考加工的准确回答,更显弥足珍贵。人工智能诸多技术“黑箱”带来的不确定性,终究还需要人类专业、全局判断来化解。从这个层面上讲,“自知”的人类永远不可或缺。
也恰恰因为技术“黑箱”的存在,人类才需要不断从自身、从技术去寻求可靠、可信的技术和技术使用方式。可信的人工智能、可信计算成为融合技术、伦理的重要领域,并受到越来越多的重视。更宏观的人工智能伦理和治理工作也早已被纳入科技管理的视野。挽救“失足系统”,矫正“智能体歧视”也许不再是比喻,而将成为使用者、从业者和治理者都必须面对的问题。
《光明日报》( 2022年12月13日 10版)
大家都在看
-
这本百万年史书,藏着多少秘密 这本百万年史书,藏着多少秘密半月谈记者 杜一方桑干河畔,泥河湾沟壑纵横间,埋藏着文明起源跨越200多万年的秘密,被誉为“东方人类摇篮”。这里百年来的考古发现,已将中国乃至整个东亚地区的人类起源时间推前至约 ... 人类之最11-07
-
人类最悲壮的一次阅兵:走过主席台直扑战场,许多人再也没有回来 本文记叙的不是我国的事情,却仍然让所有中国人深有感触。因为,我们的家园也曾被敌人践踏!——没人看,我也要用心写完。愤怒的希特勒1941年11月7日那天,希特勒心情愉悦的打开了收音机,听着里面传来的庆典声,以 ... 人类之最11-07
-
希腊神话里的五代人类,他们都有啥奇特之处?又是如何灭亡的? 在希腊神话里,人类是由天神创造出来的。相传,天神曾多次创造出人类,且每次造出的人类都各不相同,古希腊人按时间先后将他们划分为不同的时代。不过对于具体有哪几代人,还存在一些不同的观点,而被大家熟知的主要 ... 人类之最11-06
-
四个已被科学家证明,可人类却难以接受的理论,看看有哪些? 这些年人类文明之神最强大的地方是什么?科技的进步让人们的认知边界不断扩展,人类也在不断挑战着科学的底限。然而在科学不断进步的同时,人们的认知也在不断遭受冲击。一些久经考验的理论在科研工作者们眼中是日月 ... 人类之最11-03
-
人类交配会产生快感,但分娩时很痛苦,真是自然进化的最优解吗 生娃,天堂or地狱?快乐和痛苦为啥纠缠不清?!老铁们,有没有想过一个问题:鱼水之欢那么快乐,为啥生娃却那么痛苦?这快乐和痛苦,咋就非得捆绑销售,跟买一送一似的呢?今天,咱们就来扒一扒这生育背后的“神秘代 ... 人类之最10-30
-
人类史上最伟大的探险种族,族群遍布太平洋各地,可能源自于中国 人类史上的“航海王者”,竟是源自东方的探险家?今天咱们要聊的,可是一场跨越千年的“海上奇遇”。在浩瀚无垠的太平洋上,有一个族群,他们被誉为人类史上最伟大的探险种族,族群遍布太平洋各地,而他们的起源,竟 ... 人类之最10-25
-
人类史上最痛苦的疾病 四种疾病。人类史上最让人痛苦的四大疾病,每一种都能让人求生不得求死不能,只有经历过的人才知道这种滋味有多不好受,希望你一辈子都不要有机会去体验到。1. 输尿管结石:这是一种能让人痛到想自杀的疾病。这种疾 ... 人类之最10-21
-
深层解读:人类是否为宇宙中最高级的文明? 在浩瀚的宇宙中,地球是一个蓝色的奇迹。我们生活在这颗星球上,自然而然会好奇:人类是不是宇宙中唯一的智慧生命?这个问题的答案,关系到我们对自身存在意义的理解,也牵动着科学探索的未来方向。首先,我们需要考 ... 人类之最10-18
-
朝鲜若爆发战争,或成人类史上最血腥战争之一 都说我是锦鲤体质,关注我的人,运气都不会太差!想要财运爆棚,就从点个关注开始吧!祝您日进斗金,财源滚滚!1.引言-引入朝鲜半岛局势的重要性-简述潜在战争的影响2.地理与战略位置-朝鲜半岛的地理特征-战争爆发的 ... 人类之最10-18
-
十七件人生最舒服的事情1、第一:房事——最舒服 听说点赞关注的人,更容易获得幸运女神的青睐哦!想要财运亨通,就从关注我开始吧!祝您财源滚滚,福运满满!人生最舒服的事,竟然是这些?生活中总有一些让人感到无比舒适的时刻,它们或许平凡无奇,却恰恰是我们内 ... 人类之最10-18
相关文章
- 太震撼了!人类造出十大逆天之物,堪称世界最难,颠覆你的想象!
- 人类交配会产生快感,但分娩时很痛苦,真是自然进化的最优解吗
- 人体免疫力最喜欢的十种主食
- 人类医学史上最伟大的 20个发明,你知道多少? 1
- 人类史上最伟大的探险种族,族群遍布太平洋各地,可能源自于中国
- 全球最顶级医院:梅奥诊所,人类最优秀的医院有多牛?
- 人类史上最痛苦的疾病
- 人体的奥秘:一个超越宇宙的奇迹
- 万万没想到的,人体30个冷知识: 1. 你可曾想过
- 深层解读:人类是否为宇宙中最高级的文明?
- 朝鲜若爆发战争,或成人类史上最血腥战争之一
- 十七件人生最舒服的事情1、第一:房事——最舒服
- 中国人一生爱财,缺乏人类最基本的爱心,互相攀比,踩踏
- 地球之肺亚马逊雨林:绿色的天堂为何是人类禁区?到底有多恐怖?
- 附子补阳之最,黄芪补气之最,当归补血之最,女贞子补阴之最!
- 十七件人生最舒服的事情 1、第一:房事——最舒服
- 有哪些酷刑是人类意志承受不了的?网友分享太炸裂,都是活阎王啊
- 人类有史以来最神秘的罪犯——开膛手杰克
- 人类历史上最严重的三大核泄露灾难,日本福岛核事故还不算是最大
- 人类历史上最伟大的20位科学家
热门阅读
-
包头空难堪称国内最惨案件 五名遇难空姐照曝光 07-13
-
人体器官分布图介绍 五脏六腑的位置都在哪 07-13
-
关于男人的15个世界之最,最长阴茎达56厘米 07-13
-
木马刑是对出轨女性的惩罚 曾是满清十大酷刑之一 07-13
-
2022中国最新百家姓排名,你的姓氏排第几? 03-26
-
东方女性最标准的乳头(图片),看看自己达标吗 07-13
-
好玩的绅士手游有哪些?2022十大绅士游戏排行榜 10-18
-
熙陵幸小周后图掩盖性暴力 至今保存于台湾博物馆 07-13