重视聊天机器人背后的语言知识与伦理
【新闻随笔】
作者:饶高琦(北京语言大学汉语国际教育研究院助理研究员)
最近一段时间,人工智能和互联网领域最火的话题莫过于智能对话系统“生成式预训练模型聊天机器人”(ChatGPT,暂译,以下简称“聊天系统”)。该系统不仅支持包括中文在内的多语聊天,而且还能够扮演角色,甚至执行编程。对于或诙谐或严肃的提问,它的表现令人感到惊艳:相当多的知识内容正确,语言表达更是流畅,并且还支持多轮连续聊天。因此,不少人感慨“自己已经沉迷于和它对话”“让它替我编程、写稿,效率提升”,甚至有人用它生成了某行业的咨询报告,通过对话引导它生成的书也在亚马逊线上出版。但在聊天系统流畅交谈的表面下,其对人类知识的掌握仍不可靠。随着测试的增加,也有越来越多的人感慨它“常常一本正经地胡说八道”。错误信息以纯熟的语言表达出来,因而更加隐蔽。但无论如何,在不少人认定本轮人工智能泡沫开始破碎的时间点,它的诞生无疑是给人们打了一剂“强心针”。
人工智能所涉任务众多,语言智能却越来越成为方法、技术、应用方面的领先领域。正如聊天系统对自己的介绍:“我是一个语言模型。”该系统得以驾驭极其广泛的知识内容,来自对互联网文本内容的获取和“理解”,进而形成了自己的“知识体系”。其中所涉技术十分复杂,但它的成功无疑以十分直观的方式向我们展示了语言之于人类知识乃至人类思维的重要性。人工智能的核心在于知识的获取、表示和运用,语言无疑是其中关键。教科书上“语言是人类最重要的思维工具”“人类九成的知识由语言承载”的论断在人工智能系统的应用上得到了淋漓尽致的展现。知识和思维的承载物是语言,因而也赋予语言无可替代的资源属性。智能技术的发展和落地,频繁向传统语言学的教育和研究发出信号:构建语言资源、挖掘语言中的知识、探索语言知识的形式表达,是最切中数字社会命脉的发展方向。
当然,正如过去几十年中任何一项智能技术的成熟落地一样,聊天系统也引起了一波“失业潮”的舆论。这样的担心实不必要。过去几十年里,智能技术成熟引起的“失业潮”几乎从未出现,短期内或许会搅动局部行业,但长期来看却相反。技术应用本身也催生了大量新岗位,例如聊天系统的研制本身依赖于海量的人工数据标注和反馈,数据标注师和测试员岗位需求巨大。
更深层次来看,与聊天系统强大的语言生成能力不匹配的是它对知识的真正掌握程度。大量模棱两可乃至错误的信息混杂在流畅的对话中,反而令其更加难以被发现。诚如清华大学马少平教授所说:“人工智能最大的问题是不知道自己不知道什么,也不知道自己真知道什么,什么问题都能回答,结果如何就不得而知了。”在一般性知识极易获取,复杂知识参差不齐的背景下,人类专家的专业判断力和经过思考加工的准确回答,更显弥足珍贵。人工智能诸多技术“黑箱”带来的不确定性,终究还需要人类专业、全局判断来化解。从这个层面上讲,“自知”的人类永远不可或缺。
也恰恰因为技术“黑箱”的存在,人类才需要不断从自身、从技术去寻求可靠、可信的技术和技术使用方式。可信的人工智能、可信计算成为融合技术、伦理的重要领域,并受到越来越多的重视。更宏观的人工智能伦理和治理工作也早已被纳入科技管理的视野。挽救“失足系统”,矫正“智能体歧视”也许不再是比喻,而将成为使用者、从业者和治理者都必须面对的问题。
《光明日报》( 2022年12月13日 10版)
大家都在看
-
为什么我们察觉不到人类在进化?难道人类已经停止进化了吗? 对于进化论的探讨往往充满争议,很多人不愿将自身祖先与猿猴挂钩,更不用说承认与黑猩猩有血缘关系,尤其是起源于偏远的东非之地。但事实上,达尔文在提出《物种起源》时,进化论还远远不是科学的范畴,它更像是博物 ... 人类之最11-17
-
地壳中含量最高的十大元素,氧、硅和铝分列前三名 在地质学术语中,地壳是岩石的固体地壳,是地球固体球的最外层,是岩石圈的重要组成部分。地球是由各种元素组成的,其中最多的有氧、硅、铝、铁、钙等。截止目前,已经发现的118种元素中,其中94种存在于地壳中;那 ... 人类之最11-16
-
自我是人类最私密的所有物,却非常依赖人类的社会性 齐格蒙特·鲍曼是近几年在国内广受关注的一位社会学家、思想家。他的作品《工作、消费主义与新穷人》《将熟悉变为陌生》等都掀起了阅读热潮。今年,有关他与塔林大学人文学院教授瑞恩·罗德的对谈录《自我》上市。在 ... 人类之最11-15
-
揭开人类制度变迁的秘密《人类命运:制度治理》西安发布会举行 2024年11月10日,《人类命运:制度治理》新书发布会西安专场举行。王晶作为第十届、第十一届全国人大代表、第十二、十三、十四届全国政协委员以及曾白手起家参与创办两家高科技上市公司的企业家、高级工程师和享受国 ... 人类之最11-14
-
人体最脏的部位,很多人都用舌头舔过,今天总算知道,长记性! 声明:本文内容均是根据权威医学资料结合个人观点撰写的原创内容,在今日头条全网首发72小时,文末已标注文献来源及截图,为了方便大家阅读理解,部分故事情节存在虚构成分,意在科普健康知识,如有身体不适请线下就 ... 人类之最11-14
-
人类现在有没有可能是宇宙中最高等的文明? 在那浩瀚无垠的宇宙深处,是否存在着其他智慧生命?而人类,现在有没有可能是宇宙中最高等的文明呢?要探讨这个问题,我们首先要思考宇宙的广袤程度。宇宙之辽阔简直超乎想象,包含着数以亿计的星系,每个星系又拥有 ... 人类之最11-11
-
湿气是癌症的元凶,按摩人体这个“阳气窝”,逼出骨缝里的湿气 《黄帝内经》中提到,肿瘤的病因是“邪气居其间”“久而内着”。脾虚生痰,肺、脾、肾功能失调,水湿代谢紊乱,则停聚而成痰,随气流行,外而经络筋骨,内而五脏六腑,全身上下内外无处不至,结为痰核,而成肿块。临 ... 人类之最11-10
-
「最」系列!你知道人体的世界之最吗? 世界上最长的"管道"人体身体一共有一千多亿条纤细的微小血管,没错掰掰手指数一下,1000多“亿”条,如果把这些微小的血管全部连接起来,几乎长达10万公里,可绕地球两周半。 世界上的最奇特的"钢筋" ... 人类之最11-08
-
这本百万年史书,藏着多少秘密 这本百万年史书,藏着多少秘密半月谈记者 杜一方桑干河畔,泥河湾沟壑纵横间,埋藏着文明起源跨越200多万年的秘密,被誉为“东方人类摇篮”。这里百年来的考古发现,已将中国乃至整个东亚地区的人类起源时间推前至约 ... 人类之最11-07
-
人类最悲壮的一次阅兵:走过主席台直扑战场,许多人再也没有回来 本文记叙的不是我国的事情,却仍然让所有中国人深有感触。因为,我们的家园也曾被敌人践踏!——没人看,我也要用心写完。愤怒的希特勒1941年11月7日那天,希特勒心情愉悦的打开了收音机,听着里面传来的庆典声,以 ... 人类之最11-07
相关文章
- 世界最极端的十个人类居住地,温度常年零下70度,竟有人在此定居
- 人体免疫力最喜欢的6种主食,隔三差五吃一次,提高免疫力少生病
- 人类现在有没有可能是宇宙中最高等的文明?
- 湿气是癌症的元凶,按摩人体这个“阳气窝”,逼出骨缝里的湿气
- 「最」系列!你知道人体的世界之最吗?
- 这本百万年史书,藏着多少秘密
- 世界千米级高楼:竟出自这位80岁建筑师之手
- 人类最悲壮的一次阅兵:走过主席台直扑战场,许多人再也没有回来
- 从权利的分封性质看人类社会形态的发展进步历程
- 希腊神话里的五代人类,他们都有啥奇特之处?又是如何灭亡的?
- 人体这5个地方最易“藏”血栓!不想被“栓”住,这5个动作要少做
- 《永乐大典》,消失殆尽的中华瑰宝,人类历史最恢宏的百科全书。
- 面试难题:人体最不怕热的器官之思》 在河南
- 王嫩人体油画:裸而不俗,美而不媚的艺术珍品
- 四个已被科学家证明,可人类却难以接受的理论,看看有哪些?
- 太震撼了!人类造出十大逆天之物,堪称世界最难,颠覆你的想象!
- 人类交配会产生快感,但分娩时很痛苦,真是自然进化的最优解吗
- 人体免疫力最喜欢的十种主食
- 人类医学史上最伟大的 20个发明,你知道多少? 1
- 人类史上最伟大的探险种族,族群遍布太平洋各地,可能源自于中国
热门阅读
-
关于男人的15个世界之最,最长阴茎达56厘米 07-13
-
东方女性最标准的乳头(图片),看看自己达标吗 07-13
-
人体器官分布图介绍 五脏六腑的位置都在哪 07-13
-
木马刑是对出轨女性的惩罚 曾是满清十大酷刑之一 07-13
-
熙陵幸小周后图掩盖性暴力 至今保存于台湾博物馆 07-13
-
包头空难堪称国内最惨案件 五名遇难空姐照曝光 07-13
-
2022中国最新百家姓排名,你的姓氏排第几? 03-26
-
好玩的绅士手游有哪些?2022十大绅士游戏排行榜 10-18