谁也不知道非智能行为和智能行为之间的界限在哪里。事实上，认为存在明显界限也许是愚蠢的。但是智能的基本能力还是确定的，它们是：
对于情境有很灵活的反应；
充分利用机遇；
弄懂含糊不清或彼此矛盾的信息；
认识到一个情境中什么是重要的因素，什么是次要的；
在存在差异的情景之间能发现它们的相似处；
从那些由相似之处联系在一起的事物中找出差别；
用旧的概念综合出新的概念，把它们用新方法组合起来；
提出全新的观念。

科学常常被批评为过分“西方化”或“二元化”——即渗透着主体和客体、观察者和观察对象之间的两分法。虽然科学直到本世纪仍是仅关心那些可以完全与观察者相分离的事物——如氧和碳光和热、恒星和行星、加速度和轨道,等等——但这个时期的科学对更现代的科学时代来说只是一个必要的序幕。在新的时代中,生命本身成了研究的对象。“西方”科学已经逐步确定不移地走向对人类精神的研究——也就是说对观察者的研究。人工智能的探索是迄今为止沿这条路线所迈出的最远一步。在人工智能出现之前科学研究中把主体和客体相混合而产生出奇妙结果这种事有过两次主要的预演。其一就是量子力学的革命,它的认识论问题涉及到观察者与观察对象的相互干扰。另一次就是元数学中主、客体的混合,从哥德尔定理开始,贯穿了我们讨论过的所有其它限制性定理。或许继人工智能之后的下一个步骤将是科学的自我应用:科学把自身当作研究对象。这是主、客观混合的一种不同方式——也许比人研究自己的精神更加纠缠不清。
顺便提一下,一个有趣的现象是,所有那些本质上依赖于主体和客体的聚变的结果都是限制性的结果。除这些限制性定理外,还有海森堡的测不准原理,其内容是说对一个量的测量会使得对个相关量的同时测量成为不可能。我不知道为什么所有这些结果都是限制性的。随你怎么想吧。

最终结局是,关于“我是谁”的完整画面是在整个精神结构中通过某种极其复杂的方式被拼出来的。而对我们每个人来说,这幅画面中都包含大量尚未解决、可能是无法解决的矛盾。这无疑提供了大量的动态张力,而这种张力对人来说起着很大作用。从这种张力之中,在关于我是谁的内部观念和外部观念之间,产生了指向各种不同目标的心理驱力,这就使我们每个人都成为独一无二的。这样一来,具有讽刺意义的是,某些为我们大家所共同具有的东西——作为具有自我反思意识的生物这一事实——反而导致了我们以各式各样的方式对关于各种事物的证据进行内在化,而这最终又成为创造不同的个性的主要力量之一。

（乐盒）产生的乐曲会让人觉得是出自肖邦或巴赫之手(如果他们能活到现在的话)。真要是这么想的话,那就是对人类精神的深度的一种荒唐可耻的低估。能有如此功能的“程序”必须得能自己走进这个世界,在纷繁的生活中抗争,并每时每刻体验到来自生活的感受。它必须懂得暗夜里的凉风所带来的喜悦与孤独,懂得对于带来温暖爱抚的手掌的渴望,懂得遥远异地的不可企及,还要能体验到一个人死去后引起的心碎与升华必须明了放弃与厌世、悲伤与失望、决心与胜利、虔诚与敬畏它里面得能把诸如希望与恐惧、苦恼与欢乐、宁静与不安等等相对立的情绪混合在一起。它的核心部分必须能体验优美感幽默感、韵律感、惊讶感—一当然,也包括能精妙地觉察到清新的作品中那魔幻般的魅力。音乐的意义与源泉正是来自这些东西,也仅仅是来自这些东西。

受迫匹配、类比和比喻是无法轻易区分开的。体育播音员常常使用一些难以分类的生动想象。例如把一场橄榄球赛描述成“主队横扫客队”,很难说你会由此想象出什么样的景象。你是不是给整个球队配上了笤帚?还是给每个队员配上了笤帚?或许都不是。可能出现的情况是,顿时在你脑海中闪现出笤帚横着在扫街上的树叶,然后通过某种神秘的方式,只有其中相关的部分被抽了出来,并转换到球队的表演中去。在你这样做的一刹那,橄榄球队和笤帚之间在多大程度上彼此对应呢?

美国副总统是美国政府这部汽车上的备用轮胎。”
我们是怎样理解它的意义的?(其中的幽默成分当然是很重要的,但暂不考虑。)如果在事先没有任何动机的条件下,告诉你说“把美国政府看作一部汽车”,你可能会沿任何对应关系考虑下去驾驶盘=总统,等等。那什么相当于第一夫人呢?车座上的安全带又是什么?由于被比较的两个对象差异太大,这种对应几乎不可避免地要包括功能方面。因此,你会从你的概念骨架库中取出关于汽车的一部分表示,其中只包括那些与功能有关的因素,而不考虑诸如车子的外型之类的东西。更进一步来说,完全可以在一个足够高的抽象层次上工作,在那里“功能”是在较广的意义下被使用的。这样,对备用轮胎的功能可以有下述两种定义:(1)“破车胎的替换物”和(2)“汽车上某个已失效部件的替换物”,显然在这种情况下我们更愿意要后一个这只不过是由于汽车和美国政府差别太大,只能在较高的抽象层次上建立二者间的对应关系。
一旦检查完这个特定的句子,对应关系就被迫集中于某一个方面了—但这不管怎么说也不能算是一个麻烦的方式。事实上,在各种概念骨架中你已经有了一个副总统的概念骨架,即“政府中某个已失效的部分的替换物。”因此这种强追对应可以很容易地生效。但为了作个对照,不妨假定你为“备用轮胎”取出了另一个概念骨架——比如说是描述其外型的。在这种描述中可能包括说一个轮胎是“既圆又鼓的”。显然,这就误入歧途了。(不过也很难说,我的一个朋友曾指出,不少副总统就是圆鼓鼓的!)

……
这个游戏嘎嘎叫。教授将写臭豆腐。有个毛病完蛋了。人拿了那位滑跤的盒子。
这些句子的效果带有很强烈的超现实主义色彩,而且有时会令人想起俳句——如最后那个例子中那四个连续的短句就是如此。它开始看起来很有趣,而且有一定吸引力,但不久就变得令人厌烦了。在读了几页输出之后,人们会感到程序运行于其中的那个空间的界限,而在那以后,再看到该空间中的随机点——尽管每个都是“新”的——就不觉得有任何新鲜之处了。这在我看来是个一般规律:你若对某个东西感到厌烦,这往往不是由于你已经穷尽了它的所有可能的行为,而是由于你已经发现了包含其全部行为的那个空间的界限。只不过一个人的行为空间太复杂了,所以才总能使别人感到惊奇。但我的程序可并非如此。我认识到,要达到我那个产生出真正幽默的输出的目标,在程序中还需要编进去更多精妙的东西。但在这种情况下,“精妙”是指什么呢?显然那样荒谬地把词排列起来是太不精妙了,我需要找到一种方法来保证词确实是按照世界的真实情况来使用的。关于知识表示的思想就是从这里开始产生的。

这种观点——在先前讨论各种各样的问题时曾多次提到——其实就是说:意义可以存在于符号操作系统的两个或多个不同的层次上,而且与意义一道,正确性与错误性能在所有这些层次上存在。意义在一个给定层次上的出现,取决于现实世界是否是以一种同构(还是较为松散的)的形式在这个层次上得到反映。所以,神经原总是正确地执行加法(其实,是比加法复杂得多的计算),这一事实完全不能担保它们的机制所支持的最高层结论是正确的。即便大脑的最高层忙于证明布尔佛教的公案,或者忙于冥想禅宗代数的定理,它的神经原却仍在合理地行动着。同理,大脑中感受美的经验的高层符号过程,其底层是完全理性的,那里发生着完美无缺的行动。任何非理性的东西,如果存在,就是在较高的层次上,而且是低层事件的旁效现象——一个后果而已。
为了从另一个角度来看这个问题,我们来假定你正难以做出决定,不知是该要一盘茄汁鳜鱼还是黄连汁鳜鱼。这是不是就蕴涵着你的神经原细胞也受到阻碍,而难以决定它们是否发射呢?当然不是。你的鳜鱼混乱是一个高层王国的事件,以很有组织的方式依赖于数以千计的神经原的总体的有效发射。这多少有点讽刺,然而只要想一想,就会觉得是完全明白的。尽管如此,断定有关心智和计算机的几乎全部的混乱都来源于这种基本的层次混乱,大概是十分公平合理的。

但是什么样的“规则”可能把握住我们想到的所有的智能行为呢?当然,一定是在各个不同的层次上有不同的规则。一定有许多”十分平常的”规则,一定有“元规则”修改“十分平常的”规则,而且元元规则”修改元规则,等等。智能的灵活性来自大量的不同规和规则的层次。之所以一定有许许多多的在不同层次上的规则,因为在生活中,生物面对着成千上万的完全不同类型的境况。在某些境况中,只存在要求“十分平常的”规则的刻板反应。有些境况是一些刻板境况的混合这样,就需要决定要使用哪些“十分平常的”规则的规则。有些境况无法分类—那么,就一定要有发明新规则的规则……等等。无疑,包含着那些直接或间接地改变自己的规则的怪圈是智能的核心

现在可以把对G的讨论简单化了。已经证明,只要你有一人足够强有力的形式数论以及它的一个哥德尔配数法,那就有一个丢番图方程等价于G。这种等价性依赖于下述事实:当我们在一个元数学的层次上作解释时,该方程断言它自己无解。反过来说就是:如果你找到了一个解,那就可以从这个解构造出该系统内的一个关于此方程无解的证明的哥德尔数!这就是乌龟在《前奏曲》中用费马方程作为他的丢番图方程所做的事情。我们高兴地得知,一旦做到了这一点,就能从空气分子中找回老巴赫演奏出的声音!

阿基里斯:因为它没什么意义。我再给你造一个：
“总是不了了之”总是不了了之。
这是什么意思?说真的,这是一种糟糕透顶的文字游戏。
乌龟:我不这么想。依我看,这倒是个重要的素材。事实上,这种把一个短语放在其引文形式后面的办法极其重要,以至于我觉得该给它起个名字才好。
阿基里斯:那你准备用什么名字来增加这种蠢行的尊严呢?
乌龟:我想称它为:“批摁一个短语”,批摁一个短语。（“批”应为“提手旁+汇”）

具体说,如果我在和我的朋友谈论亚洲中部的天山山脉(我们俩都没去过),并且我知道几年前他在阿尔卑斯山有过一段极棒的远足经历,那么我心里对他的那些谈论的解释就会部分地带有我印象中他从前那次阿尔卑斯山经历的色彩,因为我会去努力设想他会如何想象那个地方。
使用我们在本章建立起来的词汇,我们可以说,在我这里符号“山”的激活是受控于我的那个代表他的子系统。其效果是在我的记记中打开一个通常情况下我不用的窗口——就是说,我的“缺席选择开关”从我通常的记忆范围扳向了我对他的记忆的记忆。当然,我对于他的记忆的表示只是他的实际记忆的一个近似,构成他记忆的那些大脑符号彼此激活的形态十分复杂,我是无法全部了解的。
我这里对于他记忆的表示也是处于复杂的大脑符号彼此激活的形态,当然这里是我的大脑中的符号——即那些“原始的”概念例如草、树、雪、天、云等等。我必须假定在他那里对这些概念的表示与在我这里是“等同的”。我还必须假定对更基本的观念我们俩也有类似的表示,如重量、呼吸、疲劳、颜色等感觉。登上峰顶了望四周景色时的愉悦感虽不那么基本,却也几乎是每个人都会有的。
…

汇集过程的另一个论据基于如下事实:使你感到你看见了同个对象的景象可以有无数多个—一例如你的祖母,她可能喜也可能愁,可能戴帽子也可能没戴,可能在明亮的花园里也可能在昏暗的车站中,可能近也可能远,可能侧对着你也可能面向着你,如此等等。这些场景会在视觉皮层上产生极其不同的印迹,但它们都能使你叫“喂,奶奶”。因此,一个汇集过程必定出现于接收到视觉印迹后,但又在词语发出前的某一时刻有人可能主张这种汇集不是对祖母的感知的一部分,而仅仅是词语表达过程的一部分。但把过程做这样的划分看上去很不自然,原因是你可以在内部使用“这是奶奶”这一信息,同时又没有任何词语表达。当然,在整个视觉皮层上处理全部这些信息未免太笨拙了,实际上其中大部分都该扔掉,因为你根本不关心影子落在哪里或在她罩衫上有多少扣子这类事情。