《失控》的内在逻辑是,一个复杂的系统不是一开始就有的,同时也是一个自治的系统、具有一定的层级结构,带有意识涌现,能够共同进化。人与机器是同一事物的两面,最终将走向统一。

《失控》每个章节一个小主题,内容不是很多,纯粹当摘抄了。又是关于自治系统与人工智能的推演,分布式的快速、廉价、失控的特点。(这里失控第一次出现,应该是个引子吧)

为何自治?

实现人工智能,我们都在探讨一件事情:构建一个极为复杂的系统。

于是乎,两种典型的拓扑结构摆在我们眼前:一种是中心控制架构,一种是分布式架构。

实际上,我们的社会也是在这两种架构基础上发展而来的,有的国家中央集权,有的国家实行联邦制。而科学角度,这两种架构的优劣早已被分析透彻。回归到机器智能话题,我们要构建的复杂系统会是一个自治的机器系统,为何自治?

假象NASA向火星发射了机器人大军,地球上进行远程控制效果必然不满意,一个在裂缝边缘摇晃的机器人,需要等上一分钟才能接到从地面发来的指令。因此,机器人必须实现自治。

与现在设计复杂机械时采用的缓慢、精细、力图完全掌控 的理念不同,分布式构建的系统:快速、廉价、失控。

博主站在人工智能的角度,以CNN(卷积神经网络,一种人工神经网络)为例,每一层多个神经元并行,此所谓快速,每一个神经元功能相同,此所谓廉价,失控就更好理解了,如果一个CNN不理想,你除了更改结构和调参,还能怎么办呢?你无法控制其中任何一个单一的神经元,一个CNN中有那么的神经元,它们就像书中的微型机器人一样,是快速、廉价、失控的。

包容架构

记住我们的主题,发展处一个更复杂的系统。

复杂性是依靠叠加,而不是改变其基本结构而累积起来的。最底层的行为并不会被扰乱。

这种分布式控制节后被称为“包容架构”,因为更高级的行为希望起主导作用时,需要包容较低层次的行为。

随着时间的推移,会形成一种基于由上而下渗透控制的多层级组织:底层的活动较快,上层的活动较慢。

必须从简单的局部控制中衍生出分布式控制,必须从已有且运作良好的简单系统上衍生出复杂系统。

意识与躯体

医学在证实了大脑在生理上的重要作用后,头脑就取代了心脏,成为我们现代人所认同的中心。

时至今日,自然科学仍未能建立一个纯意识。“思考即行动,行动及思考”。有一种观点认为建立纯意志的想法永远无法实现。没有运动就没有生命,离开身体就无法获得意志。

现代人关于意识与躯体产生了无数狂热的幻想:无躯体智能、意识可转移性、人脑移植、吉尔伽美什计划(永生)。

在现实世界中,我们不以头脑为中心,也不以意识为中心,我们的意识也没有总线。身体和意识跨越了假象的边界,模糊了彼此的差别。

也就是说,只有创造出以真实躯体而存活的机器人,让它们日复一日自食其力,才有可能发掘出人工智能或者真正的智慧。

身体是意识乃至生命停泊的港湾,是阻止意识被质量的风暴吞噬的机器。

我认为人类将不断积聚人工和机械的能力,同时,机器也将不断积累生物的智慧,对抗会变成一种共生合作。这将使人与机器的对抗不再像今天那么明显、那么关乎伦理。、

共同进化

地球上的生命网络,与所有分布式存在一样,超越了作为其组成成分的生命本身,地球家园中由亿万物种构成的松散网络编结起来,成为不可拆分的共同进化体系。

失衡本身是自主平衡的。共同进化的生命产生的持久平衡,自有其稳定之道。

四个游戏:囚徒窘境、草鸡博弈、猪鹿博弈、僵局。

在共同进化的世界里,控制和保密只能帮倒忙。你无法控制,而开成不公比遮遮掩掩效果更好。

在零和游戏中你总想隐藏自己的策略,但在非零和游戏中,你可能会将策略公之于众,这样一来,别的玩家就必须适应它。

 

 

 

 

 

 

发表评论

电子邮件地址不会被公开。 必填项已用*标注