70级数据库(寻找电子大脑：联结主义的胜利与 AI变革|CyberDaily)

寻找电子大脑：联结主义的胜利与 AI变革|CyberDaily

这是一篇写于25年前的文章
电子脑是由计算机之父艾兰·图灵提出的概念
当一个机器拥有电子脑，它便获得智能
这一漫长的智能之旅延续至今
AI生产力有了质的改变，AGI也在路上...
电子脑可能会实现

你正在用一台相当不错的电脑阅读这篇文章。它具有高度便携性（仅重 3 磅）、功耗小、内存大、擅长模式识别，并且具有生成和处理自然语言的能力（迄今为止在所有计算实体中独一无二）。所有这些和立体声也是如此。不利的一面是，它非常慢——每秒只进行几次浮点计算——它每天至少有三分之一的时间都在停机，而且它的软件充满了错误，尽管它在测试版中度过了最后 25 万年的时间。尽管如此，这台计算机——人脑——一直是设计电子计算设备的人们的黄金标准：我们非常希望拥有一台可以完成大脑所有甚至许多事情的机器（到目前为止只有大脑）能够做到：用自然语言交谈，找出问题的新颖解决方案，学习，表现出一点常识。

对于人工智能领域的人来说，要在实验室中创造出大自然经过数千年进化的东西绝非白日梦。自 1950 年代以来，交战思想流派就这些问题进行了辩论，障碍隐约可见，直到这项工作陷入休眠状态。但经过多年的相对沉默后，人工智能在进化计算领域重新焕发了活力，该领域使用模仿自然的技术。联结主义和象征主义之间的斗争再次爆发，尽管形式有所不同。

很长一段时间以来，我们一直在尝试制造类脑机器——几乎从一开始，当计算机被称为电子大脑时。我们认为这很容易。人们做数学，计算机（它立即被发现）也可以做数学——比人更快、更准确；人们玩游戏，从棋牌到国际象棋，计算机程序也会玩游戏——比大多数人都玩得好；人有记忆，他们使用逻辑来解决问题——计算机也是如此。人们认为，大脑显然是一种计算机（它还能是什么？），因此一定在运行某种软件。

在 20 世纪 50 年代，当约翰·冯·诺伊曼和其他人正在为电子计算奠定理论基础时——以当前熟悉的硬件和软件、内存和处理器之间的区别首次被确立时，这似乎是一项简单而可行的任务。这项早期工作的一个原则是，任何所谓的冯诺依曼机器（即几乎所有电子计算机）的指令集都可以在任何其他冯诺依曼机器上运行。这成为了一种常见的回避：在内部创建 Mac 或 PC（例如 Sun 工作站）并不是什么技巧。因此，该理论通过使用严格的分析、符号逻辑和理论语言学，只需弄清楚大脑正在运行什么样的软件，将其安装在容量足够大的计算机中，就可以得到它——一个电子设备这在功能上与大脑没有区别。

在追求这个乐观的计划时，符号主义人工智能社区拒绝认真研究唯一能够创造它的东西：大脑。然而，令人担忧的是大脑做了什么。毕竟，按照当时流行的比喻，如果你正在设计一架飞机，你不会花很多时间来分析鸟类的翅膀和羽毛，你会看到飞行的基本原理——升力、阻力、动力等等。

但很快就出现了另一个研究人员阵营——联结主义者，他们使用了一个完全不同的比喻。他们观察到，大脑由称为神经元的小型、精心互连的信息处理单元组成。也许这种小单元的相互联系与类脑功能无关，而是类脑功能的本质。也许如果你构建了一堆小的电子信息处理单元（晶体管和电容器等），类脑功能可能会自发产生，而不需要无穷无尽的代码行。

在 60 年代，联结主义学派的希望主要在一组称为感知器的设备上。在这些组件中，光敏探测器以各种方式连接到中间电子单元，然后连接到某种输出设备。

它的工作原理是这样的：你首先要在感光器前面举起一个三角形切口。输出设备上的灯随后会闪烁，首先是随机闪烁，然后，随着某些电路的电量增加而其他电路的电量减少，中间层会自行重新排列，直到闪烁呈现出更有序的模式；渐渐地，灯光会形成一个三角形。这样做足够多的次数，您很快就会得到一个系统，该系统似乎可以将该三角形与圆形等区分开来。系统似乎在学习。

早期的联结主义者充满热情，可以说远远超过他们的结果所证明的热情。许多联结主义者声称，先进的类似感知器的设备将很快学会阅读和识别复杂的图像。然而，在 1969 年，象征主义者发起了攻击。马文·明斯基和西蒙·派珀特，从象征主义思想的中心——麻省理工学院人工智能实验室——在他们的书《感知器：计算几何导论》中提出，这是一个优雅而毁灭性的数学证明，证明存在的设备永远无法“学习” ” 来识别复杂的形状，因此永远不会成为有趣的玩具。这本书的结果是，随着资金和兴趣的流失，联结主义几乎消失了。但是，十年后，联结主义学派以一种完全不同的形式卷土重来。

在乔丹·波拉克布兰代斯大学实验室的工作站大屏幕上，电脑正在自己玩西洋双陆棋——一局又一局。黑白圆盘在点上跳跃；骰子的图像闪烁着它们的数字，速度快得让人无法阅读。所以呢？你可能会说。孩子们在业余时间编写这样的游戏，并在公告板上公布结果。波拉克是一个大个子、留着胡须的男人，他的身上洋溢着年轻圣诞老人的活力，他解释了其中的区别：没有人为这位玩西洋双陆棋的玩家编程。程序（实际上是神经网络）自行编程。在西洋双陆棋规则所代表的简化环境中，由数字组成的实体相互竞争。获胜者创造出杂交后代；失败者死去。这个世界也有异变。有时这些改变是有益的，有时则不然。就像在现实生活中一样。看着比赛一闪而过就像研究一种前寒武纪汤的电子等价物，其中化学物质团块正在发明自组织并开始变得更重要。这就是进化计算，是一系列旨在解决看似无法解决的问题的努力之一，这些问题阻碍了任何可识别为人工智能的编程。

波拉克本人虽然是某种联结主义者，但他相信（也许矛盾的是）感知器将成为联结主义发展过程中的知识丰碑之一。“它对田地有除草作用，”他说。“符号人工智能蓬勃发展，但联结主义并没有被完全消灭。70 年代沉闷乏味，但在 80 年代，联结主义蓬勃发展。在 90 年代，它再次成为一个非常有趣的领域。”

根据波拉克的说法，并行处理变得更便宜也更重要，因此人们开始对如何将所有这些处理器捆绑在一起产生兴趣——基本上是一个联结问题。计算机科学和复杂系统副教授很快指出，军方也对这个问题感兴趣，并认为联结主义方向可以帮助解决这个问题。很快，钱又开始流动了。波拉克假设象征阵营随后开始衰落，因为其理论方法的固有局限性开始显现。但是这里不是有双重标准吗？波拉克开始谈论他在 1988 年写的一篇关于感知器再版的评论。符号人工智能对联结主义提出的批评之一是，你可以用低复杂度的网络做的事情非常微不足道；当你试图扩大规模时，你会遇到棘手的问题。波拉克很快指出，符号人工智能也是如此。

每个曾经努力编写计算机程序或对错误的应用程序愤怒尖叫的人都在某种程度上理解这个问题。所有的计算机程序都是一组逻辑规则，一般来说，做一些简单的事情：添加第 3、18 和 87 行并将结果与值 x 进行比较：如果较大，则执行 y；如果较小，则执行 z。把足够多的这些简单的东西加在一起，你就有了一个有用的、相对愚蠢的程序；一个可以让你用你的电脑做一小堆事情的东西。想象一下，编写完成真正复杂事情所需的规则是多么困难，例如理解英语句子或从包含数千个响应的数据库中生成正确的响应。想象一下，让大量这些复杂的规则一起跳同一个曲调是多么困难。“没有任何基于规则的系统，”波拉克解释说，“已经存在超过大约 10000 条规则，维护如此庞大的规则库的问题尚未解决。因此缩放是一种影响所有类型 AI 的疾病，包括符号类型。” 他笑了。“在我发表那篇评论后，明斯基生我的气大约四年，但现在我们又成了朋友。”

波拉克涉足象征主义和联结主义阵营。他最初是一名 Lisp工程师（Lisp 是列表编程的缩写，一种早期的高阶编程语言），在大型机上从事过去被称为“知识工程”的工作。

知识工程的目标是开发所谓的专家系统，这是一种符号人工智能的方法。这个想法很简单：人们的大脑充满了事实，人们根据这些事实根据逻辑规则做出决定。如果您将有关某个技术领域（例如内科）的所有相关事实加载到计算机中，然后编写决策规则（在 Lisp 中）针对现实世界的问题编组适当的事实，并且如果您有足够强大的解析器（一个解释问题并提取适当事实的程序）然后，实际上，你会在计算机中创建一种大脑——内科医生的大脑。这些类型的构造也称为基于规则的系统。知识工程的梦想是有一天，一个规则丰富的专家系统能够处理自然的人类语言。但该理论未能实现其早期的承诺（这就是为什么我们仍然去找打高尔夫球的医生）。

当西洋双陆棋游戏在他身后卷土重来时，波拉克解释了他的幻灭感。“要让任何基于规则的系统真正模拟人类心理，你需要很多很多很多规则；从编程的角度来看，这不仅非常困难，而且即使你确实写下了所有这些规则，你仍然 “缺少一些必要的东西。我开始意识到人类心理在本质上与运行 Lisp 程序时发生的事情不同。” 他停下来思考如何说明差异。“天文学家娶了一颗星星，”他笑着说。“这是一个合法的英语句子：你和我可以从中提取一些含义，但我无法想象一套规则可以让计算机以我们的方式解释它。”

这是波拉克转向联结主义阵营的地方。“不可避免的事情，”他解释说，“人类行为是复杂的，它源于复杂性，所以你将需要 100 亿，1000 亿的东西。我决定这不会成为规则。”

然后怎样呢？可能是神经网络中节点之间的连接？通过网络的可能路径？“类似的东西，”波拉克回应道。“目前还不完全清楚是什么，但很明显——至少对我来说——这不会是 100 亿条规则。无论在理论上是什么，实际上都无法做到。”

波拉克指的是早期程序员弗雷德里克·布鲁克斯所说的“人月神话”问题的一个版本。当他们刚开始编写大型程序时，他们认为编程类似于工业中的其他集体活动，例如建造水坝或工厂。如果工作进展得不够快，你可以增加几百个人月，然后工作就会加快。但是，当他们试图与程序员一起这样做时，工作不仅没有加快，反而变慢了。由于程序元素之间不兼容的内部通信，集成各个程序员的工作以使所有代码作为一个功能整体一起工作几乎是不可能的。

“现在运行的最大程序大约有 1 亿行代码，而且它们极难维护，”波拉克是的。“坐下来写一个想法，即使假设你知道要写什么，会需要什么？一百亿行？它与天气预报属于同一类，我想我们终于放弃了。你不能去做吧。但人工智能的创始人仍然有这种天真的想法，即你可以象征性地攻击心理学，以这种方式将思维形式化，然后对其进行编程。”

波拉克和我离开实验室，走回他的办公室，这是典型的学术小包厢。他打电话的时候，我花时间环顾房间。许多人已经观察到，计算机编程人员所要求的高超精度通常不会反映在他们的物理环境中。在这里，包括地板在内的每个平面都堆满了一堆堆没有明显顺序的文件。墙上挂着一张波拉克正在组织的会议的海报。会议名为从动物到动画，海报上画着一只老鹰和一只闪亮的机械龙虾共舞。

他挂断电话，我向他要了一份他之前提到的感知器论文。准确无误地，他从一摞书里抽出一份递过来。我意识到这种检索很难使用符号 AI 进行编程。我们简短地聊了聊他的会议——显然确实存在一只机器人龙虾（当然是神经网络设备），尽管它实际上并没有与老鹰共舞。我们谈论了从机器中获得甚至像龙虾一样的行为的难以置信的困难，然后他又开始谈论人工智能。

“让我用一个航空经济学的比喻，”波拉克说。“你必须了解这个比喻对象征主义论点的核心意义。他们想让你认为非象征性方法就像那些你总是在老电影中看到的愚蠢的扑翼飞机坠毁。所以，故事是这样的，在神经网络上构建人工智能比如说，基地就像在鸟基地上建造一架飞机，它会拍打翅膀。但几年前，我实际上看到了莱特兄弟在做什么和在想什么，它根本不是那样的。”

波拉克解构了人工智能和机械飞行之间的类比，指出莱特兄弟真正的成就不是已经存在了几个世纪的机翼，甚至不是内燃机驱动的。其他人在莱特人之前都使用过这两种方法，但他们的大部分设计都已坠毁并烧毁。为什么？因为飞行员试图通过简单地转移身体的重量来保持飞机的平衡——这种技术在轻型滑翔机中效果很好，但在较重的机器中就变得无效了。正如波拉克解释的那样，“这是一个比例问题。莱特兄弟发明的东西以及使机械飞行成为可能的东西本质上是副翼，一个控制面。他们从哪里得到它？从研究盘旋的鸟类！看，飞行进化了。首先你有在刚性机翼上翱翔。然后你就有能力使用尾翼羽毛作为副翼在风流中保持平衡。” 波拉克的观点是动力排在最后。因此，专注于所有拍打动作会掩盖真正的成就，即精确控制。

类似地，实际工作的象征性人工智能程序类似于小型轻型滑翔机。让它们运行所必需的代码调整很像飞行员移动他的身体来平衡飞机。但超过一定规模后，就无法保持稳定性：一旦这些程序的代码量达到 1000 万行左右，它们就会在自身重量下崩溃。缺少的是某种控制原则，这种原则将在面对多风的天空时保持程序（飞机）的动态连贯性。

关于莱特兄弟和电子龙虾的谈话让我开始思考伟大的工匠们给世界带来了什么，让我印象深刻的是波拉克，也许还有一般的联结主义者，都是这一类人——那些想对这些东西大惊小怪的人，与包裹在我们头骨中的无限小单位的类似物，这些单位连接在一起，产生思想。我问波拉克是否发明了东西，他有点害羞地说他发明了，并拿出了一个黑色塑料装置，其大小和形状与陶笛一样，上面覆盖着小按钮。他把它插到一台平放在一堆文件上的笔记本电脑上，然后单手开始在屏幕上制作文本。这是一只老鼠；这是一个键盘。

我喜欢它并且发现它是典型的波拉克ian——它简单、有用、有效。

由于对 AI 更宏大的希望落空，波拉克对联结主义方法可以做什么非常谨慎。他当然不会假装拥有解决软件工程危机的钥匙，但他相信解决方案取决于自下而上不断发展的系统。这意味着开发稳健且稳定的类程序元素，锁定长期的、类似游戏的情况。

“我近期想要做的，”波拉克解释说，“是展示如何从相对简单的初始程序中学习复杂的行为，而不是做出浮夸的声明——重点是展示功能的真正增长，而不是仅仅谈论认知理论或生物学上的合理性。”

为了实现这种增长，波拉克专注于一种称为协同进化的人工智能技术。在生物学中，共同进化定义了物种改变环境和相互改变环境的方式，以及改变后的环境反馈以进一步改变生物群的方式。（一个典型的例子可以通过研究史前地球找到：厌氧生物形成并适应贫氧环境；经过亿万年，它们的副产品产生了一个富含氧气的环境，然后它们的后代不得不适应这种环境。）在机器中版本中，你在一个环境中建立了大量的学习实体，挑战他们成功完成一些简单的任务，比如赢得一场与随机、合法动作的玩家的比赛。当这些实体成功时，它们被允许复制。因此，玩家的一般人群在游戏中变得更好。（在神经网络代码层面上，“更好”的含义很简单：获胜策略被分配了更大的“权重”。权重越高，玩家使用该策略的可能性就越大。获胜的行为就是分配权重，很像现实生活中。）为了在这个变化的环境中生存，后代必须变得更好。也就是说，一旦每个人都可以击败随机玩家，您就必须采取更好的行动来击败后代玩家。波拉克称之为“军备竞赛”。

顺便说一句，波拉克告诉我西洋双陆棋军备竞赛早期出现的一个问题——波拉克将这种现象称为巴斯特道格拉斯效应，以最近成为世界重量级冠军的倒霉哈巴狗命名。双陆棋既是一种机会游戏，也是一种技巧游戏，因此拥有出色策略的冠军有可能输给运气不佳的笨蛋。该项目的博士后艾伦布莱尔很快想出了如何通过将冠军与成功的挑战者杂交而不是取代它来消除这种影响。

使用自我挑战计算机来掌握认知领域（如游戏）的技术几乎从人工智能诞生之初就已经存在，但长期以来一直处于该领域的边缘，因为正如波拉克解释的那样，“计算机经常来制定出怪异而脆弱的策略，使它们能够相互吸引，但在与人类和其他符号工程程序的对抗中却表现不佳。这在确定性游戏中尤其是一个问题——没有随机元素的游戏，如 ticktacktoe 和国际象棋。发生的事情是竞争程序可能会倾向于忽略有趣的、更困难的游戏，并趋向于一种平庸的稳定状态，他们进行无休止的平局比赛。这看起来像是竞争，但实际上是一种合作形式。你在人类教育中看到这样的事情——学生们通过答对所有简单的答案来奖励“老师”；老师通过不问更难的问题来“奖励”学生。但是几年前，Gerald Tesauro IBM 开发了一个自玩西洋双陆棋网络，成为世界上最好的西洋双陆棋玩家之一。”

事实上，特索罗的工作对波拉克和他所在领域的其他人来说非常有趣和令人兴奋，因为它证明了从最小规范集开始的学习机器可以发展到非常复杂。问题是这是怎么发生的？是分配权重的巧妙之处，还是他使用的学习技术的微妙之处，还是游戏本身的原因？好吧，游戏的性质确实让它特别适合自玩网。与国际象棋不同，西洋双陆棋不会以平局结束，掷骰子会在游戏中加入随机性，迫使人工玩家探索比确定性游戏更广泛的策略。然而，除此之外，波拉克怀疑真正的关键在于球员竞争的共同进化性质。

为了检验这个理论，他和他的团队决定通过只向他们提供最原始的可能算法或学习规则，让他们让最初的两名球员变得非常非常愚蠢。在认知科学家中，这被称为爬山。想象一下一个愚蠢到蚯蚓看起来像约翰·冯·诺依曼的程序。这种生物一生只有一个目标：爬到山顶并留在那里。它只有一个规则：走一步，如果那一步是向上的方向，那么再朝那个方向走一步；如果方向是向下的，不要踩到那里——改变方向再试一次。在完美光滑的圆锥形山丘上没有问题 - 事情毫无问题地到达顶峰。但是，如果山上有一个小峰怎么办？痘痘？该生物将不可避免地爬到疙瘩的顶部并留在那里，因为它离开疙瘩峰的每一步都是向下的。这种行为一点也不有趣。

在西洋双陆棋爬山中，最简单的第一条规则就是“走合法的一步”。最初的数字竞争者从其网络中的零权重开始，相当于随机游戏，并设置为与稍微变异的挑战者竞争。获胜者获得复制权。由此产生的一代在下一个周期中与新的突变挑战者竞争。如果这个军备竞赛过程成功，获胜的网络会变得更加复杂，在西洋双陆棋中更加适应进化。波拉克决定使用爬山，因为他说，“它是如此简单。没有人会把一些惊人强大的内部结构归因于爬山。它如此有效的事实表明军备竞赛方面的真正重要性。”

军备竞赛避免了进化计算领域常见的某些问题，部分原因是它与所谓的遗传算法一起工作。这些算法被称为“遗传”，因为它们模仿基因在自然选择中的行为方式。该技术从由 1 和 0 的随机字符串组成的人工群体开始，这些随机字符串由一组分类器规则进行评级。例如，我们可能需要一个识别猫的分类器规则。在这种情况下，我们可以确定字符串中某些位置的 1 表示猫的属性，例如“purrs”、“catches mice”、“furry”、“has claws”等。0 可能代表非猫的属性：“金属”、“有翼”、“投票给共和党”。可以编写一组这样的分类器规则或测试，以便在组合时解决特定的现实问题。完整的测试集被称为适应度函数——这个术语暗示了促进生物体生存和物种进化的适应度。在实践中，代码串的总体服从适应度函数的规则。那些包含受该功能青睐的位的人会存活下来并“交配”，而其他人则会死亡。这些实体可能会交换代码位，就像微生物交换 DNA 条带一样，以制造新的——也许更合适的——基因组。在许多代之后，字符串将越来越接近问题提出的一个好的解决方案。

这种遗传方法可以创建具有传统方式无法轻易编程的功能的程序。该领域由密歇根大学的约翰·荷兰和劳伦斯·福格尔 (Lawrence Fogel) 在 20 世纪 60 年代末独立发明（称为“进化编程”或“自然选择编程”），最近获得了新的发展s John 科扎演示了依赖于编码表达式（通常用 Lisp 编写）能力的遗传算法如何实际用于解决商业、计算游戏收益、喷气发动机设计等方面的许多难题。

波拉克说，此类程序的问题在于编写适应度函数。

“科扎和该领域的许多其他人本质上是在短期内寻找有用产品的工程师。事实上，科扎想称该领域为基因工程，但这个术语当然已经为真正的生物学家所称。所以这些工程师习惯于编写相当复杂的适应度函数来驱动遗传基元的种群产生在合理数量的循环中可用的东西。但是，自然地，一旦你开始这样做，你往往会遇到与符号主义者相同的问题 - 健身功能开始变得像常规 AI 程序一样复杂和笨拙。这是一个壳游戏：你只是在不同的地方投资你的知识工程能量。

我们回到实验室再看西洋双陆棋玩家，并演示玩日本围棋的程序，该游戏的编程难度是出了名的，还没有准备好迎接黄金时段。在路上，我们经过一家老式的机械车间，那里摆满了转塔车床和磨床，与实验室的其他部分形成鲜明对比。“我们计划制造机器人，”波拉克随口说道。“我想尝试在虚拟世界中进化出栩栩如生的行为，然后将它们下载到现实世界中。当然，这一切都是在未来。”

使用协同进化？

“可能。真正有趣的是，不需要生成绝对适应度函数，因为它基于竞争单位的相对适应度竞争遗传系就像自然界一样。我认为这就是方式你抓住了自然选择的原始无与伦比的力量。随着玩家遗传原语变得越来越好，适应度函数随着种群而变化。我的意思是，适应度动态变化，就像环境变化一样，变得更丰富，有更多的生态位随着其中个体生物的进化，产生更多和不同的生命形式。”

他有一个观点：在这个星球上肆虐超过 20 亿年的进化军备竞赛是我们所知道的唯一可以产生身体、大脑，并最终产生思想的过程。对于现代联结主义者来说，真正的问题是任何可构建的网络是否具有必要的能力和控制来做现在只有大脑才能做的事情。波拉克和其他任何人都还不能具体说明这样一个网络是如何形成的，但 波拉克指出联结主义有可能将 AI 卷入当前正在改变物理和生物科学的思想革命——一场基于对分形几何、复杂性和混沌理论。

另一方面，它可能会像 60 年代那样全部破产。波拉克承认这种可能性，但补充说，如果它在 10 年内不崩溃，联结主义将克服其目前的局限性，成为一个蓬勃发展的领域。

同时，还有西洋双陆棋。