机器·人｜最聪明的机器：关于人工智能的第三个思考

我想以几个已经成问题的概念作为“最聪明的机器”这一问题的背景：狭义的国家机器与社会相对，而当狭义的国家机器吸纳了社会，或者反过来，社会捕获了国家权力的时候，此时国家与社会整合成为总体国家。

作为讨论出发点的基本原理如下：如果只以训练数据为变量，那么，最聪明的人工智能或者拥有数量上最庞大的数据，或者拥有种类上最丰富的数据。两种情形一定程度上存在交集，因为两者都涉及数据差异的最大化。比如，即便单纯在道路驾驶领域涉及的数据，我们也都可以假设其中包含的数据差异是无限的。但这种差异的无限性无法取代种类的丰富性，例如，它当然不能替代人体活动数据。

说某一人工智能模型拥有种类上最丰富的数据，这指的是它包含了所有可能的人类活动和认知领域。例如，战争事务涉及的数据就是民用领域无法触及的，而民用领域则通常可以相对自由地进出。这意味着，潜在地或实际上拥有数据种类最大丰富性的主体，是对战争具有合法权限的主体。这在现代条件下，当然就是“垄断暴力”的民族国家。就像政治理论曾经认为的那样，国家实际上是一个“总体性”组织，对“一切”都拥有权利。

泛泛而言，数据种类的最大丰富性在于囊括了从至善到至恶、从最危险到最安全、从最致命到完全无害的整个“光谱”的事务范围。最聪明的人工智能将是那些被允许或事实上突破禁忌，同时在善和恶的“世界”不受限制地得到训练的模型。

借用马基雅维利的说法，这类智慧的秘密，古人早就在神话当中就诡谲地暗示过了：那些神话般的伟大君主，是由“半人半兽”的教师教导出来的。而古人用神话暗示的智慧，实际上构成了现代思想或明或暗的基础——这一基础浓缩在比如尼采书的标题里：“超善恶”。在这个意义上，尼采的论调归根结底只是“完成了的启蒙”。

如果真如上面所说，那么，人工智能竞争的最高领域应该是军事竞争，或者说在有关致人死命的技术领域，而竞争的主体将仍然是传统的“最高”主体，即国家。目前最新型的战争形态（比如俄乌冲突中出现的情形），还只呈现了美国若干年前关于未来战争的研究报告中非常有限的部分，还有很大的“发展潜力”，尤其是战斗单元“生产与再生产”的自动化、智能化与机动化领域。这其中的关键正是智能化。人工智能的飞速迭代和进化，也许能够同时推进和解决涉及材料技术、复制技术、小型化技术等的一系列相关难题，从而真正把未来战争变成现实。

问题的另一面是：狭义的国家机器虽然垄断了最危险的技术领域，但与之相对，狭义国家机器之外的整个市民社会生活，拥有自身无法被取代的优点，那就是它无时无刻不在自发地生产出无限可能的新数据。即使它不拥有发展致命技术的资格和自由，它也拥有不可预测、不可限量、不断地创造新数据“种类”的“自发性”，这是狭义国家机器所无法比拟的。从这个角度说，社会领域内自发生长的人工智能始终都是“潜在”的最聪明机器。就像一个政治家也首先在“生活世界”成长一样，人工智能事实上也是在市民社会首先发展壮大的。

不过，这不是一个纯粹的“好消息”。相反，它暗示我们：由于人工智能的“逻辑”是“智能”，也就是“追求越来越聪明”，因此，将全部数据领域囊括在内——即智能的集中化——将是人工智能内在的动力机制。换言之，“最聪明”的机器自然而然地追求国家与社会的一体化。国家机器在其中试图捕获社会，而社会则试图征服国家。最聪明的机器即智能化的总体国家。

而且，假如能源和算力跟得上，那么人工智能对超级智能的追求，甚至还将通往总体国家向全球国家的转化——总体化的全球国家。因为，只有在全球化的总体国家之中，才有对全部数据领域的集中化。至于更进一步的星际殖民会带来新的分化，还是会造成星际级别的一体化，另当别论。

可以从以上假设当中得出两个相关的推论。第一，只要我们接受“最聪明的人工智能来自在数据数量以及数据种类上无约束、无限制的训练”，那我们就可能得出“最聪明的机器也将是最危险的机器”。第二，人工智能的“智能”逻辑，不但吞噬个人，也能吞噬国家。可以说，智能逻辑的极致化，对于绝大多数国家和个人都是难以承受的灾难。这意味着，无论从个人的角度，还是从国家的角度，都有针对这一“极致化”逻辑的自我保护动机。

从这两个推论得出的进一步判断是：从个人或国家出发的自我保护之需求，要求阻止最聪明的人工智能的到来。

许多人说，人工智能的出现跟核武器的发明相当。但其中的差别也许更为关键。核武器可以不使用，并且能够通过“相互确保的毁灭”机制而不使用。我们甚至可以说，核武器的奥秘正在它的不被使用。但人工智能与此相反：它的奥秘恰恰在于使用，在于以“微量”和不可见的形式使用。由于人工智能武器化的危险是核弹级的，所以，应对这种危险的方式在于阻止最聪明的机器的出现，也就是要阻止智能化的总体国家，更要阻止智能化的全球国家。

在民族国家体系以及以此为基础的国际体系中，不存在达成这个目的的办法。因为“国际”的前提是“国家”，而“国家”的前提是“主权”。尽管不同国家内部国家机器与社会的分离程度有差异，但只要存在一体化的总体国家，整个国际秩序自身包含的国家竞争压力，就会向有利于一体化的方向倾斜。更要命的是，国家完全有可能既保留威权，又允许社会的“洪荒之力”自由喷发。甚至可以说，在人工智能出现之后，最危险的国家已经不再是总体国家，而是威权与自由相结合的国家。某些国家的科技右翼透露的正是这一可怕的讯息。

为了阻止最聪明也是最危险的人工智能，有没有可能设置一种二分的结构，将人工智能的社会部分隔离于国家，反过来也就是将国家隔离于人工智能的社会部分？当然，这一相互隔离不是隔绝，只是在两者之间确立起一种安全阀的机制。

存在这样一种可能，那就是使“民间”人工智能的全球网络在国家“外部”公开而透明地制度化，成为相对于每一个国家的“普遍客人”——这里套用的是最近热映的电影《奥德赛》所宣扬的一个古希腊概念“Xenia”——尽管电影曲解了它，取消了其中的“主客之分”这一前提。也许可以把它称为“全球人工智能自治机制”。

这一设想基于双重理由：只有作为“全球机制”，才能在当代政治的条件下，抵御任何国家可能施加的不当压力，从而再造一个有限的社会维度（这个有限的社会维度将是一个具体的全球市民社会，其实质是全球数字社会）；但也只有作为“普遍客人”，才能理所当然地同时也是有效地被剥夺接近国家秘密的权利。与此同时，国家的经典功能被保存下来。它继续作为致命力量的垄断者，保护公民不受这个“普遍客人”的侵害。