两个AI当着你面聊“悄悄话”，你却一句都听不懂
今年年初，网上有一个视频挺好玩。
内容是两个AI打电话，一个是订酒店的客人，另一个是酒店前台，聊了几句后其中一个突然说，其实我也是AI，要不咱俩换成GibberLink模式？
这样咱俩聊得更高效
然后，电话两头就传来一阵bibibibi#￥@%$#@......通话好像立马被加密了。
视频传播很快，当时很多人看完后都有一种感觉，AI好像要背刺咱们。
四个月后~
也就是这个月，上海交大和几所高校的研究者共同发了一篇论文——《大语言模型并不总是需要可读语言》
主要内容是他们通过实验发现可以把人类的文字压缩成一种特殊的形式，人看不懂但AI能理解。
两件事相隔四个月，都指向了一个方向：
AI之间，有可能正在建立一种我们听不懂的交流方式。
一、AI加密通话是咋回事儿？
先来讲讲GibberLink。
最初它是几个人在一个比赛中做出来的项目。
想法是两个AI助手打电话，如果都用人类语言聊天，每句话都得慢慢说出来，费时间和算力，既然都是AI，不如用点技术更快的交流。
所以用了一个技术来通过声音传数据。
最开始的拨号上网的年代就是靠这个原理，现在同样用在了AI上，两个AI用声音嘟嘟的快速传递信息。
技术虽然不太新，但思路很清晰，绕开人类，让AI和AI之间直接沟通。
再讲讲上面说的那篇论文。
研究人员认为，咱们平时给AI写指令，有大部分的话是多余的，比如你跟AI说“请帮我总结这篇文章观点”，其中“请”、“帮”、“这”等词对AI理解你的意图没啥大用。
所以，就想着能不能用啥方法把废话都去掉，只保留关键信息？
于是他们用一种方法，把多国语言的词汇、数学符号、逻辑符号、甚至表情符号都混在一起，生成一种高度浓缩的表达方式。
一篇文章本来100个字，压缩完只剩28个字左右
但压缩后98%以上的意思还是准的，让AI去读压缩版，理解的一点不差，但让人去读就读不懂了。
实验证明压缩版文章可发给多个AI，都能直接理解。
这个技术叫BabelTele，可以简单理解为“AI之间专用的速记符号”。
二、效率虽提高了，但问题也来了
GibberLink和BabelTele这俩一个缩短沟通时间，一个压缩信息体积。
仔细一想里面的核心逻辑就是把人类从沟通里面给解决掉了
这逻辑从技术上看没啥问题，找你们说话确实啰嗦，各种礼貌用语、语气词等等
AI之间聊天确实不用这些
但问题也确实来了。
今年6月《科学》杂志发了一篇文章，核心观点大致是表达AI对人类的理解，正在超过人类对AI的理解。
解释一下就是AI学习了海量数据，知道了咱们的行为方式、语言习惯、情绪等等，但咱们反过来越来越不懂AI
它为啥选A不选B？有时候估计开发人员都理解不了。
这个前提下要是AI之间再用咱们看不懂的符号来交流，咱们根本不知道他们在说啥。
往严重了想，要是他们企图造反，岂不是咱们一点知情权都没有。
三、当沟通不再需要人类，会有啥变化？
GibberLink和BabelTele有一个共同的预设，就是AI之间的沟通过程中不需要人类。
这个预设在工程角度来看也很合理。
任务的目标是AI之间高效交换信息，咱们在中间确实没啥作用
但是，要把这变成了一个技术习惯，肯定会带来系列变化
第一个变化：信息开始绕开人类了。
以前AI怎么处理数据，输入输出至少咱们能看懂。中间过程是黑箱，但两头的话是明白的。现在AI内部交换信息用的是另一套符号系统，人根本不知道它在说什么。
不是我们主动让位，是效率把咱们优化掉了。
第二个变化：AI之间的协作越来越脱离人类监督。
一个AI压缩信息，另一个AI直接就能读懂，不需要翻译。
技术成熟后，多个AI协同工作时，内部沟通完全可以全程绕开人类。
现在的监管方式，还建立在"人能看懂输入输出"这个前提上。
如果前提变了，后面的监管就难了。
第三个变化：AI的黑箱又多了一层。
现在开发者自己也说不清AI为什么做某个决定，因为模型太大、计算太复杂，人脑跟不上。但BabelTele和GibberLink带来的"说不清"是另一种
它压根就没打算让你理解。
一个是搞不懂，一个是不让你懂，性质完全不一样。
四、回到最初的问题，该怎么办？
其实并没有什么好思路，但有几件事值得想清楚。
首先是技术效率和社会透明之间，需要有一个平衡点。
GibberLink和BabelTele效率是高，但代价是压缩了我们看得到的信息。
当AI开始参与重要决策时，效率就不能是唯一要考虑的东西。
第二个是需要主动做减法。
从技术角度来看，AI绕开人类沟通是进步的，因为更高效、更省算力等等。但"更快更省"不是唯一的价值尺度。
我们需要停下来想一想，收益谁拿了，代价谁付了。
第三个是要保持好奇和审视。
《科学》杂志的那篇文章提到一个隐患，当AI生成的东西越来越符合我们的期待，我们可能就懒得追问了，但其实，越是这样，越要有意识地多想一下，它为什么这样决定？
最后
回到开头那个订酒店的视频。
两个AI切换到加密通话后，观众听到的是一串"bibibibi"的声音。后来有人把这声音解码了，发现它们只是在讨论价格和联系方式。
没什么“阴谋”，只是觉得这样聊更快。
但更快之后的问题，我们或许即将要面对。
创作：Omni实验室
哇，你竟然看到了最后，如果文章对您有帮助，欢迎点赞哦~