读书笔记之《理解和改变世界》：从信息知识智能的本质看AI

《理解和改变世界: 从信息到知识与智能》作者:是(法) 约瑟夫·希发基思，

原作名: Understanding and Changing the World: From Information to Knowledge and Intelligence，2023年出版。

约瑟夫·希发基思（Joseph Sifakis）：2007年“图灵奖”获得者，自主系统领域的专家，世界安全计算机系统发展的重要贡献者，创立了在嵌入式系统领域具有领先地位的Verimag实验室。法国科学院院士、法国国家工程院院士、欧洲科学院院士、美国艺术与科学学院院士及美国国家工程院院士、中国科学院外籍院士。致力于在中国进行人工智能的学术研究和人才培养：担任清华大学计算机学科顾问委员会委员、南方科技大学杰出教授，牵头成立希发基思可信自主系统研究院(Research Institute of Trustworthy and Autonomous Systems, RITAS) 并担任荣誉院长。亲自指导中国留学生和博士后，为中国科学院软件所、浙江大学、军事科学院等单位输送科研骨干。

这本书探讨了知识的本质、发展和应用，以及它们如何影响我们理解和改变世界的方式。以下是全书的总结：

第1章引言

- 作者介绍了自己对知识、意识和语言之间关系的长期研究兴趣。

- 强调了哲学问题与科学问题之间的联系，以及对知识经济的重视。

- 提出了本书的目标，即在不依赖特定意识形态或哲学偏见的情况下，基于计算理论和逻辑的概念，全面处理知识及其应用。

第一部分包含第2章、第3章、第4章，主要介绍了"知识是有用的和有效的信息"这一论点，以及计算机和人类是如何处理和管理知识的。

第2章知识的基本问题

- 讨论了关于知识的三个基本问题：目的论（teleological）、本质论（ontological）和认知论（gnoseological）。

- 解释了只有认知问题可以从方法论和逻辑的角度严格处理。

- 提出了知识作为信息的严格定义，并讨论了其发展和应用的主要特点和限制。

三类关于知识的基本问题：

其一是目的论的问题（Why)，我们期望从现象中找到一个目的，例如"世界为什么会形成""我们为什么会存在"等。"为什么"这个词的使用，体现了人类的意志，这也是人类意识的一个特征。因此，这些问题的答案并不受理性控制，也超出了实验验证和分析的范畴。

其二是本体论的问题（What)，它涉及"存在"的本质。例如，"世界是否存在于我们的感官和思想之外"或者"世界是由其元素组成，但作为整体的它究竟是什么"。这些都是关于"是什么"的问题。之所以问这样的问题，是因为我们没有把现实和现实的模型区分开来，后者只是我们的大脑用来理解现实的抽象概念。如今，随着量子力学和计算机科技的发展，人们已经普遍认识到世界及其模型是两个独立的东西。本体论的问题也不适合理性作答。因为本体论问题往往涉及高度抽象的概念，如“世界的本质是什么？”或“存在的意义是什么？”这些概念超出了我们日常经验的范围，难以用具体的、可观察的现象来验证或解释。理性思考依赖于逻辑和经验，而本体论问题可能触及到逻辑和经验无法完全解释的领域。例如，量子物理学中的某些现象挑战了我们对现实的传统理解，这些现象可能无法用传统的理性方法来完全理解。语言是我们表达和理解概念的工具，但语言本身有其局限性。有些本体论问题可能无法用现有的语言准确地表达，这使得通过理性讨论来达成共识变得困难。本体论问题往往涉及个人的信仰、价值观和世界观，这些因素具有很强的主观性。因此，即使通过理性讨论，也可能难以达成普遍接受的答案。

其三是认知论的问题（How)，其关注的是"如何""怎样"。例如，世界如何变化、我们如何思考、如何建造建筑，以及鸟类如何飞行等。这些问题的答案使我们能够理解或改变世界。这类知识可以是科学的、技术的、数学的或纯经验的。它们由一系列关系组成，我们可以通过逻辑、经验或其他适当的方法对这些关系进行验证。

上面这种分类为知识的基本问题建立了一种清楚且严格的分类方法。对于目的论和本体论的问题，我们没有任何逻辑的或经验的标准来判断答案是否合理。只有当问题被表述为明确定义的概念之间的关系时，才值得尝试从认知论的角度去回答它们。

值得注意的是，这三类问题是相互独立的。无论你对"Why"和"What"持有的信念是什么，在逻辑上都不会影响你对这个世界的认知。认知不取决于你是佛教徒还是无神论者，也不取决于你是否相信数字独立于人的思想而存在。

宗教、哲学试图回答目的论和本体论的问题，科学试图回答认知论问题。

在当今这个时代，拥有知识比拥有物质产品更重要，也更具有战略意义，人们可以利用知识来控制物质世界并应对全球挑战，当然前提是人们能够掌握。管理知识的元知识

第3章信息与知识

- 介绍了信息学的诞生和发展，以及它如何成为知识领域的一个重要分支。

- 解释了信息的概念，以及它如何作为符号语言和概念之间的语义关系。

- 讨论了不同类型的知识及其有效性，包括经验知识、科学知识、技术和数学知识。

信息可以被定义为一种符号语言和一组概念之间的语义关系，如同奶酪上的孔洞。

计算，就是信息的转换。

我们大脑中的信息含量，决定了我们是谁。

知识则是信息在特定网络中的整合，它可以用于理解情境或实现目标。知识不仅仅是信息的简单积累，而是经过组织、理解和验证的信息，它具有一定程度的真理性和有效性。知识涉及对信息的深入理解和应用。它可以帮助我们做出决策、解决问题或创造新的东西。知识通常被认为是有用的、可靠的，并且能够在实践中产生结果。

信息是构成知识的原材料，而知识则是对信息的深入理解和应用。信息需要通过思考、分析和验证才能转化为知识。知识是信息的高级形式，它包含了对信息的解释、上下文和意义。

第4章知识的发展和应用原则

- 探讨了知识发展的原则：对现实进行简化抽象，和这些原则所产生的限制。

- 分析了知识发展过程中的基本原则和局限性。

维特根斯坦认为：我的语言边界就是我的世界边界，意思是说我们的语言限制了我们对世界的理解。语言是人类根据经验形成的，这也是我们为物质世界和精神世界构建的第1个模型。

人类智力理解世界的漫长历史，其最重要的特征就是抽象，给万物命名，定义各种概念。其次是分类。然后观察概念之间关系，总结规律，认知世界。

漂亮的理论提出的模型往往会把现实过度简化。计量经济学家常常会忽略人的因素，而将问题简化为方程式，但是人的因素往往是经济博弈中的主要参数，他们本末倒置了。

第二部分包含第5章和第6章，分析了计算过程与物理现象之间的关系，以及机器和人类对知识的生产和运用。

第5章物理现象与信息学（计算过程）

- 比较了物理现象和信息学（计算过程）之间的关系，以及它们在物理和信息学领域的知识如何相互丰富。

- 讨论了计算过程与物理现象的比较，包括连续性的概念和系统中的冲突与资源。

计算的性质是离散的、非线性、混沌的。

物理世界是连续的、线性，具有简单规律，可预测。

冲突的概念是理解意识和心理过程的关键。冲突是决策过程中的一个基本要素。在面对多个选择时，个体必须在不同的行动方案之间做出选择，这涉及到权衡各种利弊。这种权衡过程反映了意识层面的冲突，因为个体需要在满足当前需求与长远目标之间找到平衡。冲突也体现在资源有限的情况下，个体如何分配有限的资源（如时间、精力、金钱等）以实现多个目标。这种资源分配的决策过程涉及到优先级的设定，反映了意识在处理复杂情境时的动态调整。在实现目标的过程中，个体可能会遇到目标之间的冲突，例如短期目标与长期目标的冲突，或者个人目标与集体目标的冲突。理解这些冲突有助于揭示意识如何协调和解决这些目标之间的矛盾。冲突的概念有助于理解个体如何在心理层面维持平衡。例如，个体可能会在追求个人利益与履行社会责任之间经历冲突。这种内在的冲突处理过程揭示了意识在维护心理稳定中的作用。冲突还与自我认知有关。个体在自我评估和自我实现的过程中可能会遇到内在的冲突，如自我期望与现实能力之间的差距。这种自我冲突的识别和处理是个体自我发展和成熟的重要部分。在社会互动中，个体之间的冲突是不可避免的。理解这些冲突有助于我们理解个体如何在社会环境中导航，以及意识如何在处理人际关系和社会规范中发挥作用。

冲突的概念强调了意识不是静态的，而是一个不断变化和适应的过程。个体在面对冲突时的思考、情感和行为反应展示了意识的动态性和适应性。

第6章人类与人工智能

- 分析了人类智能和人工智能（AI）之间的关系，探讨了计算机在模仿人类心智功能方面的局限性。

- 讨论了弱AI和强AI的概念，以及自主系统在实现强AI愿景中的作用。

两种思考方式：快思考和慢思考。

数学和逻辑是慢速思维的产物。计算机执行的算法和程序只是把这种思维方式形式化的表示了出来。

传统的计算机模拟的是慢速思维，而不是快速思维。事实上，最适合模拟快速思维的是那种直接依赖物理过程的自然计算机，例如量子计算机、蛋白质计算机，特别是人工神经网络。它们与快速思维一样，对信息的处理本质上是并行的，而且执行的大都是那种逻辑分析不可能完成的计算。不幸的是，快速思维是无意识的，人工神经网络的推理也如同黑箱一样，理解和分析其基本规律与机制将会徒劳无功。于是一个有趣的问题出现了：自然计算机可以有效地计算哪些函数呢？是否有可能出现一种新的计算理论，可以有效地利用物理系统（如虚拟机、人工神经网络、量子计算机）的计算能力？

人工神经网络采用完全不同的计算模式，这种模式不是靠编程，而是从庞大的数据集中进行学习，通过特定的学习，我们有许多专门解决某一类问题的智能系统。我们可以把意识理解为：大脑在外部世界和内部世界的语义模型中看到自己如何行动的能力。

复杂的理论很难掌握也很难使用，如果检验他们的有效性，往往也是一个难题。

人类智能的特征是自主行为以及对内外部环境变化的适应。目前AI做不到这一点。只有当某一天计算机系统能够自主执行大量任务，并且能够适应不断变化的环境，是我们才可以说人工智能和人类智能之间的差距正在消失。

人类思维的本性限制了我们探索知识的能力，计算机能否帮助我们克服这种限制呢？答案显然是肯定的，我们可以利用计算机来克服认知复杂性的障碍，发展并验证能够解释复杂现象的新理论。人工智能和超级计算机的使用正在为人类知识的发展铺设一条新路。

第三部分由第7章和第8章组成，主要内容是根据先前的认知论观点对个体意识的功能进行分析，随后讨论了个体意识对社会组织的影响。

AI带来的风险：失业，安全，技术依赖、侵犯隐私、自动化决策、技术专制等。

第7章意识

- 解释了意识作为自主系统的功能，以及它如何管理短期和长期目标。

- 讨论了意识的各个组成部分，包括价值系统、目标管理、自由意志等。

实现自主系统和服务是物联网的核心目标。

第8章价值观与社会

- 分析了价值观如何在社会中形成，以及个体的主观经验如何获得客观维度。