Therac-25 放疗事故调查： http://tinyurl.com/theracfailure.

如果你想了解感觉及其生理基础，我强烈建议你读一读威廉 · 詹姆斯（ William James ）和安东尼奥 · 达马西奥 (67) （ António Damásio ）的著作 [2] 。

随着技术变得越来越强大，我们应当越来越少地依赖试错法来保障工程的安全。换句话说，我们应当更加积极主动，而不只是亡羊补牢。我们应该投资人工智能的安全性研究，保证一次事故也不会发生。这就是为什么人类社会在核反应堆安全方面的投资远远超过对捕鼠器安全方面的投资。

计算机科学家所谓的“确认”非常重要。“验证”问题问的是“我建造系统的方式正确吗”，而“确认”问题问的是“我建造的系统正确吗”，比如，这个系统所依赖的假设是不是总是有效？如果不是，如何改进它，才能更好地应对不确定的情况？

想象一下，如果用地形来比拟人类的能力，就可以画出一幅“人类能力地形图”，其中低地代表着“算数”和“死记硬背”，丘陵代表着“定理证明”和“下象棋”，高耸的山峦代表着“运动”“手眼协调”和“社交互动”。不断进步的计算机性能就好像水平面，正在逐步上升，淹没整个陆地。半个世纪以前，它开始淹没低地，将人类计算员和档案员逐出了历史舞台。不过，大部分地方还是“干燥如初”。现在，这场洪水开始淹没丘陵，我们的前线正在逐步向后撤退。虽然我们在山顶上感到很安全，但以目前的速度来看，再过半个世纪，山顶也会被淹没。

生命 1.0 是说：生命的硬件和软件都是靠进化得来的，而不是靠设计。不过，你和我却属于“生命 2.0”：生命的硬件是进化而来，但软件在很大程度上却是依靠设计的。在这里，“软件”指的是你用来处理感官信息和决定行动时使用的所有算法和知识，从你识别某人是不是你朋友的能力，到你行走、阅读、写作、计算、歌唱以及讲笑话的能力，这一切都属于软件。

欧内斯特·卢瑟福( Ernest Rutherford)可能是他那个年代最伟大的原子核物理学家,他在1933年说,核能就是一派空谈,而不到24小时,美国原子核物理学家利奧·西拉德( Leo szilard)就创造了核链式反应;1956年,英国皇家天文学家理查德·伍利( Richard Woolley)认为,太空旅行“完全是一派胡言”。1969年，阿波罗就上了月球。

现在，有些科学家认为，超人类水平的人工智能永远不会到来,因为在物理学上不可能实现。然而,大脑中的夸克和电子组合起来不正像一台超级计算机吗?

用最简练的话来说,柏拉图的思想特征就是:相信世界的奥秘存在于人的观念之中。所以柏拉图的思想也被称作“观念论”或者“理念论”。


柏拉图主义大概有三个要点:第一,世界万物的真实都可以归结为纯粹的数学存在;第二,人关于这个世界的知识,其实深埋在心底,需要通过心智体验和数学直觉来“唤醒”;第三,大千世界无非是那个纯粹的理念世界的摹本。

柏拉图的学生亚里士多德后来提出的“四因说”也有这层意思。以雕塑为例,亚里士多德认为,雕塑的作品本身(形式因)已经镶嵌在大理石中了(质料因),雕塑家只不过把多余的废料去掉(动力因),最终展现精妙的神的设计而已(目的因)。