读书笔记之《智能简史》:从细菌智能到AI机器智能

发布于: 雪球转发:1回复:0喜欢:1

《智能简史:从大爆炸到元宇宙》作者是于非,2022年6月出版,英文标题为:

A Brief History of Intelligence: From the Big Bang to the Metaverse

于非:博士生导师,加拿大工程院院士(Fellow of the CanadianAcademy of Engineering),加拿大工程研究院院士(Fellow of the Engineering Institute of Canada),IEEEFellow,IET Fellow,IEEE杰出报告人,IEEE车载技术学会理事(2016年至今)、副主席(2017—2019年),科睿唯安计算机科学领域全球“高被引科学家”(2019—2021年)。发表学术论文700余篇,Google学术引用20000余次,H指数(H-index)为90+。研究领域包括智能网联、区块链、自动驾驶及无线网络。

这本书,总结了宇宙从大爆炸开始的不稳定状态,以及智能现象如何自然地出现在宇宙稳定化的过程中,强调了智能现象在宇宙各层次(物理、化学、生物、人类和机器)中的普遍性和重要性。作者通过跨学科的视角,探讨智能的本质和发展历程。全书共分为九章,以下是每章内容的详细总结:

第1章 引言

- 探讨智能的起源、发展以及非生物、植物、非人类动物到人类的智能进化。

- 提出人类是否能够制造出超越人类的机器智能的问题。

- 讨论了人工智能(AI)的发展如何激发人们对智能现象和智能本质的兴趣。

近年来,AI技术取得了显著的进步,特别是在机器学习、深度学习和强化学习等领域。这些进步使得机器在特定任务上的表现超越了人类,例如在围棋、象棋和某些类型的图像识别任务中。

那么,到底什么是智能?

智能的定义在不同的领域和研究者之间存在差异。一些研究者认为,智能不仅仅是解决问题的能力,还包括理解、学习、推理、规划、创造力和批判性思维等能力。从这个角度来看,目前的AI系统尚未达到人类智能的全面水平。

作者认为,智能的一些特征如下:

适应性:智能通常被视为一种适应性,它使得个体能够在不断变化的环境中生存和繁衍。这种适应性不仅体现在生物学上的进化,也体现在个体学习和解决问题的能力上。

信息处理:智能涉及信息的获取、处理和使用。在人类和动物中,这通常涉及到感知、记忆、学习、推理和决策等认知过程。在机器中,这可能涉及到算法、数据处理和模式识别。

自组织:智能系统往往展现出自组织的特性,能够在没有外部指导的情况下形成有序的结构和行为。这种自组织能力在物理学中的耗散结构、化学中的自组装分子以及生物学中的细胞和生态系统中都有体现。

目标导向:智能行为通常是为了实现特定目标。无论是生物寻找食物、逃避捕食者,还是人类追求知识、创造艺术,智能都表现为一种有目的的活动。

创新和创造力:智能还与创新和创造力相关,这使得个体能够产生新的想法、发明和解决方案,以应对新的挑战和机遇。

社会互动:在人类和某些动物中,智能还体现在社会互动和沟通中。这包括语言、文化、合作和竞争等复杂的社会行为。

自我改进:智能体能够通过经验学习和适应,不断改进自己的行为和策略,以更好地适应环境。

作者提出,智能现象可能是宇宙为了缓解能量、物质、信息不平衡而自然产生的。智能体通过其行为有助于宇宙向更稳定状态的演化。

通用人工智能:通用人工智能(AGI)是指能够执行任何人类智能任务的机器。目前,尽管在特定领域取得了进展,但实现真正的AGI仍然是一个巨大的挑战。AGI需要能够理解、学习和适应各种不同的任务和环境,这超出了当前AI技术的能力。

超级人工智能:超级人工智能(ASI)是指在所有领域都超越人类智能的机器。这通常被认为是一个更远大的目标,因为它不仅需要广泛的智能能力,还需要能够自我改进和创新。目前,ASI仍然是一个理论上的概念,距离实现还有很长的路要走。

即使技术上可能实现超越人类的机器智能,也存在许多安全和伦理问题需要解决。例如,如何确保这样的智能系统不会对人类社会造成威胁,以及如何确保它们的行为符合人类的价值观和道德标准。

尽管目前还没有实现超越人类的机器智能,但未来的技术发展可能会使得这一目标逐渐接近。作者鼓励读者思考智能的本质,并关注AI领域的最新进展。

第2章 稳定宇宙

- 描述了宇宙的起源、物质、能量和空间的形成。

尽管宇宙浩瀚而复杂,但事实证明,要建造一个宇宙,只需要三种成分:物质、能量和空间。

物质是有质量的东西。物质无处不在,在我们的房间里,在我们脚下,在太空中,如地球上的水、岩石和空气。巨大的恒星螺旋,延伸到令人难以置信的距离。

建造宇宙所需的第二个要素是能量。我们每天都离不开能量,做饭、给手机充电和开车都是在使用能量。在阳光明媚的日子里,我们可以感受到9300万英里(1英里~1.61千米)外的太阳所产生的能量。能量渗透到宇宙中,推动着宇宙动态过程的不断变化。

建造宇宙需要的第三个要素是空间,很多空间。无论从哪里看宇宙,我们都会看到向各个方向伸展的空间。

根据爱因斯坦的相对论,质量和能量是同一个物理实体,可以在他著名的方程E=mc2中相互转化,其中E是能量,m 是质量,c是光速。

- 讨论了宇宙的动态变化,以及这些变化如何促进宇宙的稳定。

- 介绍了重力在物理学中的作用,以及暗能量对宇宙稳定的影响。

熵,用来衡量无序,就是一个东西有多乱。一个系统内在的混乱程度。有序的概率小,无序的概率大。熵越大,意味着发生的可能性越大。智能是在稳定宇宙的过程中自然出现的,就像石头从高处滚下和冰块融化成水一样自然。

第3章 物理学中的智能

- 探讨了物理学中的智能现象,包括重力、量子纠缠和最小作用原理。

- 讨论了物理学中的智能如何通过自然现象(如岩石滚动和冰融化)来促进宇宙的稳定。

第4章 化学中的智能

- 回顾了化学发展的历史,以及化学如何通过自组织结构和熵增原理来展示智能。

- 介绍了贝纳德对流和贝洛索夫-扎博津斯基反应等化学中的智能现象。

第5章 生物学中的智能

- 探讨了生命的定义、生命存在的原因,以及微生物、植物和动物中的智能现象。

- 讨论了生命如何通过自复制和分形几何等特性来促进宇宙的稳定。

生命,是有序的开放系统,可以自组织、自我复制。

微生物智能:比如黏菌,没有大脑,没有神经,但是很智能。黏菌能够解决迷宫问题。在实验中,黏菌被放置在一个迷宫中,它们能够找到并沿着最短路径到达迷宫的出口,这表明它们具有空间导航和路径规划的能力。黏菌能够通过经验学习。例如,它们可以在多次尝试后记住哪些路径是有效的,哪些是无效的,从而在未来的探索中避免无效路径。黏菌能够优化其网络结构以提高效率。在一项实验中,黏菌被用来模拟东京铁路网络的设计。黏菌通过生长和连接燕麦片(作为食物来源)来形成一个网络,最终形成的网络与实际的东京铁路网络有着惊人的相似性,显示出黏菌在网络优化方面的智能。黏菌网络具有自我修复的能力。如果网络的一部分被移除,黏菌能够重新组织其结构,以维持网络的连通性和效率。黏菌能够根据环境条件调整其行为。例如,它们可以根据食物的分布和环境的光照条件来调整其生长模式。

植物智能:以捕绳草为例。捕绳草的叶片具有特殊的触觉感应机制。当昆虫触碰到叶片上的触发毛时,捕绳草能够迅速关闭其叶片,捕捉并困住猎物。这种快速反应展示了植物对环境刺激的敏感性和适应性。捕绳草能够区分不同类型的触碰。它们通常对非猎物的触碰(如雨滴或风吹动的物体)不予理会,但对潜在猎物的触碰则会迅速作出反应。这种区分能力体现了捕绳草的智能行为。捕绳草的捕食行为是能量效率的体现。它们不会对所有触碰都作出反应,而是通过选择性捕食来最大化能量的利用,这与智能体在资源有限的情况下做出最优决策的行为相似。捕绳草在捕捉到猎物后,能够分泌消化液来分解猎物,并将营养吸收到自身。这个过程展示了捕绳草在生物学层面上的智能,即能够有效地利用环境中的资源。捕绳草的这些特性是长期进化的结果,它们适应了特定的生境和生存策略。这种适应性进化本身就是一种智能的体现,因为它涉及到对环境变化的响应和生存策略的优化。

动物智能:黑猩猩会社交,鸟类使用工具,海豚有语言

第6章 人类智能

- 描述了人类大脑的新皮层结构,以及人类特有的思考方式。

- 讨论了人类大脑理论,包括贝叶斯大脑假说、高效编码原则和自由能原理。

- 探讨了信息过载和人类信息茧房现象。

人类大脑就是一个大模型,不断的获取外部信息数据,然后进行解释预测和决策。

信息过载时代,要么改变信息源,要么改变大脑内部模型。

第7章 机器智能

- 回顾了人工智能的历史,包括符号主义、连接主义和行为主义的发展。

在构建智能机器时,通常主要有三个学派:符号主义、联结主义、行为主义。符号人工智能努力模仿大脑的高级概念,联结主义人工智能努力模仿大脑中的低级神经联结,行为主义努力模仿动物与环境的交互。近年来,一些比较成功的深度网络(如卷积神经网络)的结构模仿了大脑的某些部分,这些部分是根据神经科学的发现进行建模的。尽管人工智能最近取得了进展,但许多专家认为,通用人工智能还很遥远。原因之一是对智能本身缺乏了解。

- 讨论了机器学习、深度学习、强化学习等技术,以及它们如何模拟和实现智能。

受大脑启发的联结主义人工智能的第一个例子是感知机,由心理学家弗兰克·罗森布拉特(Frank Rosenblatt)在20世纪50年代发明。它的灵感来自神经元处理大脑中信息的方式。一个神经元接收来自其他神经元的电或化学输入。如果所有输入的总和达到某个阈值,神经元就会触发。在计算其输入的总和时,神经元为来自更强联结的输入赋予更多权重。调整神经元之间的联结强度是在大脑中学习的关键。类似于神经元,感知机计算其输入的加权总和,如果总和达到某个阈值,则输出1。如何确定感知中的权重和阈值?与符号主义人工智能不同,后者具有明确的规则设置程序员,感知机通过训练示例自行学习这些值。在训练中,如果结果正确,则给予奖励,否则将受到惩罚。

神经网络通过更新其权重和阈值来学习。执行此操作的标准学习算法称为"梯度下降"。梯度只是距离(如能量、质量、温度、信息等)差异的度量。由于"自然界憎恶梯度",梯度意味着不稳定,因此可以通过减小梯度来稳定系统。我们在物理、化学、生物和人类现象中讨论过这个过程。智能就出现在这个过程中。

机器学习中的梯度是机器的实际输出与机器的预期输出之间的差异。例如,假设你想设计一个识别猫的智能机器,如果给机器一张猫的照片,预期的输出是"这是一只猫";如果机器的实际输出是"这是一只狗",这不是一个正确的答案,这就出现了梯度。梯度下降算法用于最小化梯度,使真实输出与预期输出相同。

梯度下降算法和岩石从山谷的斜坡上滚下有一个很好的类比。这也是作者认为智能在稳定宇宙的过程中自然出现的原因之一,就像滚石一样自然。预期输出和实际输出之间的差异可以建模为一个函数,称为代价函数(有时称为损失函数或目标函数)。我们可以把这个代价函数看作山谷,神经网络的参数(权重和阈值)决定了岩石的位置。我们为球随机选择一个起点,然后模拟岩石滚下山坡时的运动。

梯度下降算法的工作方式是计算代价函数的梯度,由此可以找到山坡的"向下"方向,然后将岩石向下移动(即改变神经网络的参数)。通过重复应用这个更新规则,我们可以将岩石"滚下山坡",并希望找到成本函数的最小值。换句话说,这是一个可用于在神经网络中学习的规则,直到达到底部(即局部最小值)。

梯度下降的另一个挑战是如何有效地计算代价函数的梯度。如果网络中有100万个权重,这意味着计算梯度需要计算代价函数100万次,需要100万次前向通过网络(每个训练示例)。反向传播算法避免了重复子表达式,从而有效地计算代价函数的梯度。

在反向传播算法中,根据前一次运行获得的错误率对神经网络的权值进行微调。正确地采用这种方法可以降低错误率,每次前馈通过网络后,该算法根据权值和偏差进行后向传递,调整模型的参数,提高模型的可靠性。

具体地说,神经网络输出中的错误向后传播,以将适当的归咎于神经网络中的权重。通过逐渐修改权重,随着训练样本越来越多,输出误差可以最小化到接近于零。反向传播算法出现在20世纪70年代,但长时间内没有流行,直到大卫、鲁梅尔哈特、杰弗里·辛顿(Geoffrey Hinton)和罗纳德·威廉姆斯(Ronald Williams)在1986年发表了一篇著名的论文,该论文描述了几个神经网络,其中算法的工作速度比早期的学习方法要快。因此,可以使用神经网来解决以前不可能解决的问题。今天,反向传播算法是神经网络学习的主力军。

训练数据对深度学习有重大影响。原则上,给定无限数据,深度学习系统足够强大,可以表示任何给定输入集和相应输出集之间的任何有限确定性"映射"。

由于缺乏统一理论,目前的人工智能就像化学学科出现之前的炼丹术,空气动力学出现之前的仿鸟飞行。

第8章 物质、能量、信息和智能

- 探讨了人类如何通过发明技术来促进物质、能量和信息的网络化,以及这些技术如何帮助人类合作和宇宙的稳定。

- 讨论了智能网络的概念,以及区块链技术如何增强智能网络的安全性和隐私保护。

人类社会的基本成分:信息,数据,智能。

物质联网:交通网、物联网,物流

能源网联:能源网,电网

信息联网:互联网

智能网络(Intelligence Networking)是书中提出的一个概念,它指的是一种新兴的网络范式,旨在实现智能的高效获取、共享和应用。这个概念建立在现有的物质网络(如交通网络)、能量网络(如电力网)和信息网络(如互联网)的基础上,进一步发展出一种能够促进智能流动和利用的网络结构。

智能网络的核心特点包括:

智能共享:智能网络允许智能体(如人类、机器、AI系统)之间共享知识和智能,以解决复杂问题或提高决策效率。

集体学习:通过智能网络,可以促进集体学习,使得智能体能够从彼此的经验中学习,加速知识的积累和创新。

去中心化智能:智能网络支持去中心化的智能分布,这意味着智能不仅仅集中在单一的中心节点,而是分布在网络的多个节点上。

决策信任:智能网络可以提供一种机制,使得智能体在做出决策时能够依赖于网络中的其他智能体,从而提高决策的可靠性和信任度。

安全性和隐私保护:智能网络需要考虑安全性和隐私保护,确保在共享智能时不会泄露敏感信息。

智能网络的愿景是将智能作为一种资源,像物质、能量和信息一样,可以被高效地获取和利用。这将有助于推动人工智能技术的发展,促进人类社会的进步,并可能在多个领域产生深远的影响。

第9章 元宇宙与现实世界宇宙

- 介绍了元宇宙的概念、特点和技术,以及它如何影响现实世界的宇宙。

- 探讨了元宇宙的发展趋势,以及它如何可能促进现实世界宇宙的稳定。

这本书深入浅出的解释了很多AI概念和原理,非常适合非专业人员作为AI的入门科普读物。