财新传媒
位置:博客 > 汪丁丁 > 汪丁丁:重要性感受——人工智能从狭义到广义的关键环节

汪丁丁:重要性感受——人工智能从狭义到广义的关键环节

     这篇短文的主题,接续我最近的三篇财新博客文章“人工智能时代的读书方法”,也接续我最近发布于财新博客的“符号表达”与“重要性感受”系列文章。

     苹果系统自带的相簿,有“人物”这一栏目,是人工智能面孔识别技术的运用,当然很幼稚,因为它常将一些无生命物体误认为“人脸”。在人工智能算法的视角下,这样幼稚的错误很难避免。目前流行的人脸识别技术,基于在人脸若干关键部位采样所得的数据。包括愚蠢的“深度学习”技术,人工智能“寻优”算法的关键在于,采样局限于特定域之内,例如“人脸”识别,例如“道路”识别,例如“围棋”算法。凡有预先界定的搜索领域,就称为“狭域”的。这一性质,也称为算法的“域专有性”(domain specificity)。经济学理性选择模型是狭域的,因为它预先设置“约束条件”。人工智能与经济学理性选择模型的另一狭域性质是必须预先设置“目标函数”(在算法里也称为“罚函数”)。在人类视角下,人工智能与经济学理性选择模型之所以愚蠢,本质在于,首先,人类理性不受狭域的限制,它是“广域”(universal domain)的,其次,人类理性可以修正自己的目标函数,例如,韦伯称之为“价值理性”的目标函数。第三,硅基智能缺少碳基智能基于生物演化的重要性感受,不仅如此,第四,这是我这篇短文的初衷,在我们能够制造碳基智能与硅基智能的任何混合智能之前,这两类智能之间必须可以相互表达自己的“感受”,插图,来自最近发表的一篇文献,Tim Miller,2019,“explanation in artificial intelligence: insights from the social sciences”(人工智能的解释:来自社会科学的洞见)《Artificial Intelligence》(人工智能),vol. 267,pp. 1-38。

     在思想史视角下,人工智能的现代起源,是西蒙发表于1950年代的几篇论文,其中对行为经济学影响深远的一篇,也是西蒙早期最具系统性的寻优算法论文,发表于1955年,Herbert A. Simon,“a behavioral model of rational choice”《the Quarterly Journal of Economics》,vol. 69,no. 1,pp. 99-118。西蒙称经济学的理性选择为“全局理性”或“建构理性”,称他自己创设的寻优算法为“过程理性”或“演化理性”。他指出,建构理性的最优解必须是全局最优,相当于假设人类有上帝那样的完备信息。过程理性的最优解是局部最优,这是因为它的算法基于不完备信息,故而,过程理性很可能锁入局部最优的陷阱,这就导致后来的“淬火算法”——算法根据预先设置的强制步骤摆脱局部最优,当然,淬火之后的寻优也许只找到一个还不如上一最优解的局部最优。所以,淬火算法的关键环节是判断强制摆脱的方向,按照西蒙在另一篇论文里的描述,就是在“爬山算法”锁入半山腰时,淬火的强制方向必须是上坡而不是下坡。当然,根本困难就在于算法不知道如何整体判断“上坡”还是“下坡”,除非它是上帝,具有经济学家假设的全局理性。可惜,全局理性是建构的,它不符合生命演化的基本原理。陷入困境时,生命凭借直觉找到突破的方向。直觉,就是感受从而判断重要性的能力。

     生物有重要性感受,而且是广域的,那是它向无限深远的生存环境渗透的能力,生命力越强,这一能力就越强。我推荐柏格森的生命哲学,尤其是他的顶峰作品《创化论》。我还推荐怀特海的过程哲学,尤其是他的晚期作品《思维方式》。硅基智能不是生物的,它只能通过碳基智能的表达,尤其是碳基智能对这些表达的解释,首先,理解对碳基智能具有重要性的那些事情,其次,将它自己在寻优过程中遇到的“重要性感受”解释给碳基智能。为此,我引用了这幅插图——这三个集合(社会科学,人工智能,人机互动)的交集,XAI,名称不妨拓展为“碳基智能与硅基智能的互动”。

 

 

 

 

 



推荐 6