财新传媒
位置:博客 > 汪丁丁 > 汪丁丁:人类智能是广域局部理性而人工智能是狭域全局理性

汪丁丁:人类智能是广域局部理性而人工智能是狭域全局理性

  苹果电脑自带的相簿系统之所以常将无生命物误判为“人脸”,因为它的“人脸分类”算法在识别模式的学习阶段主要依靠人脸采样。我说过,这是因为算法是狭域的。我们观察生物的寻优过程不难看到,它们在日常生活环境里的“算法”似乎也是狭域的。围棋对弈,假设棋力不相上下,若任何一方遐想与棋局完全无关的事情,输棋的概率就要增加。我写文章,全神贯注于我的文字思路。烹饪、考试、会议、……,认知科学家早就知道,人类的绝大多数决策是在狭域之内完成的。但是,与硅基智能的本质差异在于,碳基智能在狭域寻优的同时,保持着某种“背景警觉”,也称为“直觉”,或者更狭义地被博兰霓称为“支援意识”,参考文献:Michael Polanyi,1958,《Personal Knowledge: towards a post-critical philosophy》(汉译标题是“个人知识”)。

  另一方面,碳基智能与硅基智能通有的表达方式,就是为现象分类,尤其是“二元分类”。太初只有“混沌”,随后,在已知最早的人类文明当中,有些分类系统首先辨认的是“昼”与“夜”,另一些分类系统首先辨认的是“水”与“土”,还有一些分类系统首先辨认的是“天”与“地”,或“上”与“下”。这样的分类,随着观念的增加而细化。假如最初只有观念“水”,则世界被分类为“有水的”和“无水的”两类。凡可追溯至六千年前两河流域苏美尔文明的人类文明,通有的世界观,基于四大元素(地、水、火、风)。中国的文明,约有三千年历史的世界观,基于五大元素(金、木、水、火、土),此外还有基于“太极、两仪、四象、八卦”的世界观。二者之间的关系,待考。为现象分类,容我稍后讨论。

  芯片产业以往遵循,或许未来继续遵循,“摩尔定律”描述的发展速度。至今,流行的人工智能算法在任何狭域之内都已超越人类这样的碳基智能。不过,我试着想象一种接近广域的游戏,在这一游戏的领域里,似乎还没有出现超越人类的电脑算法。限于篇幅,我只简要说明我想象的游戏:设群体内个体的数目是N,凡参与博弈的个体都可自己选择游戏规则并邀请其它个体参与自己的游戏,只要能吸引群内足够多个体参与的游戏,就成为“游戏”这一观念在这一群体的核心经验,并在这一意义上不是“输家”。注意,这里出现的是“博弈的社会演化”,它不同于数学家研究的“规则博弈”,后者要求:参与游戏的各方选择游戏规则,只要这些规则是逻辑可能的,包括关于输与赢的判据,只要在这些规则之下的游戏在这些判据之下确实有输与赢之分(解的存在性定理)。

  不论如何,数学家研究的规则博弈(解的存在性定理),这样一种视角是全局理性的,而我想象的接近广域的游戏,是演化视角,是局部理性的。全局的理性,当然可以有全局最优解。局部的理性,未必能找到全局最优的解,甚至也不能证明全局解的存在性。即便如此,它仍是广域的,而人工智能是狭域的。有鉴于此,全部可能的智能,或可根据两大性质分为四类:1)广域全局理性,2)广域局部理性,3)狭域全局理性,4)狭域局部理性。

  在上列四类当中,具有广域全局理性的,或可称为“神”(例如全知全能无所不在的“上帝”)。另一方面,我推测,具有狭域局部理性的,或可称为“物”(山川河流),也许还包括许多植物。在这两大类之外的,如前述,人类这样的碳基智能是广域局部理性的,人工智能目前这样的硅基智能是狭义全局理性的。

  参考文献:2020年出版,Understanding Artificial Intelligence --- fundamentals, use cases and methods for a corporate AI journey (标题直译:理解人工智能——基础,为公司撰写的使用案例与方法的人工智能之旅)。这本文集的关键插图,我贴在下面:

  插图出现在第一章,是全书内容的概述。在公司决策中引入人工智能,第一阶段称为“决策辅助”的人工智能,第二阶段称为“部分决策”的人工智能,第三阶段称为“有人类复核的决策”人工智能,此处插图的英文单词“varified”是排版错误,正文排版是“verified”,第四阶段称为“人类委托决策”的人工智能,最后,第五阶段是“自动化决策”的人工智能。注意,完全自动化决策的人工智能,仍是狭域的,由预先设定的“任务”被执行的情况来评价决策的品质。虽然,在各阶段的人工智能可以自我更新知识库。为应付不确定因素,人工智能还可在预先允许的变动范围内修订自己的任务。这样的人工智能演化过程,已十分接近我设想的“游戏的社会演化”过程。不断注入“游戏”这一观念里的经验,现在不仅有人类的而且有人工智能的核心经验。我的推测是,沿着这一思路,人工智能也许形成自己的“情感”。 

 

 

 

 

 

 



推荐 9