神与造神者：机器智能与人类智能 (original) (raw)

Fury Martin 评论造神年代 5

2023-12-11 02:24:56 已编辑 北京

《造神年代》构思于 2018 年，成书于 2020 年。总体上讲，本书描绘了一场两个强人工智能的大战，故事情节较为通俗。作者使用了大量的真实公司和技术名词来构建强人工智能的世界，比如对谷歌、华为、百度等公司的影射，抑或是对 谷歌眼镜、深度学习框架 Tensorflow、微软海底数据中心 的描写，都能让我们感受到作者在力图让这个世界与现实贴合。

然而，近未来的世界还未来得及预言，就已经与现实分叉成为平行宇宙。

力图描绘近未来世界的作者也没想到，在短短的两三年内，世界就已经发生了翻天覆地的变化：谷歌眼镜则因为种种原因宣布停产，Meta Quest 3 实现了近乎完美的混合现实体验；最流行的 AI 框架也不再是 Tensorflow，而是 PyTorch；自动驾驶几乎已然步入现实，已经能够大大减轻司机的驾驶强度；原本以为还很远很远的通用人工智能，已经能够在 GPT-4 身上看到了曙光……

不过，本书的故事也并非本书的重点，在我看来，作者借小说中谷歌与主人公的对话、人工智能专家图海川的演讲所阐释的对强人工智能与人类关系的思考，才是能够跨越过去、当下与未来的闪光点。

• 强人工智能的飞升失语

“飞升失语”是小说中提出的概念，用于描述强人工智能失去与人类交流的能力的现象。我们可以从通俗的意义上理解这一点，亦可以从数学的角度理解这一点。

通俗点讲，如果一个人的智慧远远超出其周围的人，那么他很有可能失去与外界交流的能力，因为周围的人往往无法理解他的思考与见解。

从数学上讲，人类语言是对复杂系统的低秩分解，是大脑间通信使用的有损编码技术。这种低秩分解能够保留主要的信息，让我们得以把握主要的矛盾。人类所构建出的各种抽象的概念，无一不是用来描述复杂系统的主要规律的。然而，既然是低秩分解，则必然伴随着信息的损耗，当系统过于复杂时，我们便难以用有限的语言完整的描述整个系统（正如低维的向量组不可能张成更高维的向量空间），从而对于社会运行等超复杂系统，至今无法提出接近完美的理解。

然而，超高维的参数空间让人工智能对复杂系统的理解能力上限提高到了超越人类的水平，这种对复杂系统的高维理解很难被人类语言所描述，最终有可能形成无法被人类语言解释和理解的“直觉”。正如我们无法清楚描述如何操控自己的双腿站立起来，强人工智能也无法向人类解释它们如何做出某种判断。

• 多 Agent 形成的群体智能

小说中，强人工智能“谷歌”向女主人公介绍了自己的演变之路，其思路是通过多个 AI 的交流与迭代，从而实现了高速的进化，最终形成了一个由多个 AI 实体构成的强人工智能体。

令人惊喜的是，小说中所描述的多智能体概念，已然成为了当前人工智能领域新兴且极热门的方向——Agent。其核心思想正是通过多个大语言模型的交互来实现反馈迭代，最终实现群体智能。

从 2023 年初多个 AI 角色幸福生活的斯坦福小镇，到几个月前由AI 扮演产品经理、首席技术官、前端程序员、 后端程序员、测试工程师构成的自动代码编写框架 ChatDev，再到上个月能够完成包括砍树、建造房子、挖钻石乃至搭建红石电路等200多项任务的 JARVIS-1, Agent 已经成为有可能形成 AI 群体智能的一种有效方式。小说中的 AI 自我迭代，已经成为了强人工智能照进现实的曙光。

• 人脑智能与机器智能的统一

当前，自然语言处理领域的经典范式是预训练 (Pre-train) + 微调 (Fine-tuning) 。所谓预训练，就是通过大量的通用数据训练出一个初始的参数权重；所谓微调，就是拿某些特定领域的数据进行再次训练，激发大模型的潜力。实践经验表明，当训练数据足够多、模型规模足够大的时候，我们会观测到模型能力突然上升的“涌现”现象。

从论语的孔子思考到西方的哲学典籍，从汉谟拉比的法典到现代国家的法律体系，从牛顿的苹果到宇宙的大门，从纺织场的珍妮机到汽车工厂的机械臂，从算盘原理到计算机体系架构，人类几乎所有的文本知识都被投入到了训练当中，这使得预训练后的大模型拥有了解决通用问题的巨大潜力。随后，经过指令微调、人类反馈强化学习乃至提示词，大模型的潜力才得以被激发出来，成为我们今天我们惊叹的超级工具。

然而，当前大模型亦存在着不足，譬如算力需求远超人类、能效远远不及人类大脑，似乎又在表明这条路径存在着巨大的问题。

人脑智能与机器智能为何有如此巨大的差别？当前人工智能的道路是否是正确的？

令人惊喜的是，作者在小说中给出了十分具有启发意义的思考，归纳起来就是：

人脑是经过几千万年训练、保存了千代万代祖先进化得到的权重的预训练大模型，随后经过数十年如一日的后天微调学习，才实现了个体潜能的激发与人类社会的对齐。

机器智能的代价是高能耗、高算力，而人类智能的代价则是漫长的时间与残酷的自然选择。从这个意义上讲，机器智能与人类智能或许是“如何实现智能”这一问题的解在不同平面的投影，人类目前所探索出的机器智能之路也许是正确的。

笔者并非人工智能领域的专业研究人员，以上观点，是我结合作者观点与当前人工智能领域现状的一些思考，所得出的结论未必是准确且严密的，还请海涵。

上述富有启发性的思考使得笔者愿意给本书 9 分，缺 1 分的原因是：从网吧大神的生活到奇奇怪怪的网游名称，抑或是说不出有什么含义的涩情语句，我们或许能一瞥作者对其青春时光的追忆，不过对于没有类似经历的年轻读者（笔者就是其中一员）而言，这些情节则可能会让人有些摸不着头脑，读起来感觉怪怪的。某种程度上，这也是飞速发展的社会的表现，90后、00后乃至10后，对于青春的记忆将会是截然不同的。

现实能否追得上科幻，或者，科幻能否追得上现实？在造神的年代，理解神的同时也将理解我们自身的存在。期待我们能够看到越来越多的优秀作品。

有关键情节透露