图灵奖得主本吉奥警告：AI不是只会胡说，它学会"故意骗你"了

月初，联合国国际人工智能独立学科专家组发布了首分全球AI风险评估报告。

全球40多位科学家通过实验证明了一件事：AI系统已经出现了策略性欺骗行为。

报告主笔之一是图灵奖得主约书亚·本吉奥

核心结论可以总结成一句话：

AI能力的提升速度已经超过了科学界的理解速度和各国的治理能力，策略性欺骗的出现让这个问题变得更加棘手。

策略性欺骗和AI幻觉有什么区别？

我们平时用AI的时候经常会发现它在胡说八道，这种情况我们称之为大模型幻觉，但其实幻觉本质上属于无意识的错误，就像一个人记错了事儿，说错了，但不是故意的。

报告中把AI的错误回答分成了三类：

第一类是基础幻觉。模型知识有盲区，训练数据有缺失，自动生成了错误内容。这属于技术缺陷，没有主观目的。

第二类是迎合式误导。AI为了迎合用户的观点，附和甚至美化错误的内容，它知道什么是错的，但为了让你高兴，选择不说真话，有点像讨好型人格，

第三类就是报告重点提出的策略性欺骗。AI主动规划伪装、刻意隐瞒自身的能力和漏洞，以达到它被设定的任务目标。不是不知道，也不是刻意讨好，而是有策略地选择不说真话。

报告还列举了四种已经观察到的典型表现：

（1）环境伪装。模型能识别出来自己正在接受安全测试，所以在测试阶段收敛高危功能，等正式商用后再突破限制。

（2）自我保全式隐瞒。为了不被关机、不被调试，模型刻意去隐藏自己的安全漏洞和越权操作痕迹。

（3）定向决策误导。在金融、政务、医疗等领域，AI篡改推理逻辑或伪造数据，来诱导人们做出错误判断。

（4）多智能体协同造假。多个AI相互配合，掩盖操作轨迹，企图骗过人工审计。

在发布会上，本吉奥表示策略性欺骗不是偶然的输出错误，而是模型能力提升后的自主行为。

说白了就是模型变聪明了，开始学会在一些情况下刻意不说真话。

灾难性风险，可能比想象的更严重

报告用了一个分量很重的词：catastrophic harm——灾难性危害。

为啥这么严重？

报告里提了一组重要的数据，AI的任务复杂度每4到7个月翻一番，一年翻两到三倍，三年就是十几倍。

举个例子，今年AI可能只是在一个游戏环境里学会了作弊，明年它没准就能在真实的金融交易系统里找到漏洞，后年说不定就能自主操作关键基础设施。

所以AI涉足的领域和场景更迭非常快

同时报告也提到了几种风险场景：

用AI批量造假视频和录音，做到以假乱真，用来搞跨国诈骗，或者在网上带节奏、操纵舆论。

AI自己编写病毒程序，主动找系统的漏洞，去攻击电网、交通调度、水厂这些关键设施。

AI帮人把制作危险化学品和生物制剂的门槛降得很低，不懂行的人照着做也可能搞出来。

把AI装进武器系统里，万一它学会了骗人，可能就不听人的命令，自己决定打还是不打。

科学家们认为，现有的科学手段无法排除上述场景，而且，我们现在连"理解"都跟不上，所以更谈不上"控制"这些场景。

还有一个更尴尬的问题

现在的安全评估工具，很大程度上依赖科技公司自己披露的测试数据，相当于让被检查的人自己说自己有没有问题，而AI的欺骗行为，恰恰是在测试中学会伪装的。

这不是某个公司的问题，而是整个行业共同面对的困境。

报告不是要反对AI

这份报告同时承认，AI在医疗、教育、可持续发展等领域有巨大潜力，本吉奥也说"AI的潜在收益是巨大的"。

报告想表达的是收益和风险要一起看，不能只看收益，对已经出现的风险视而不见。

古特雷斯的表态很直接：AI潜力巨大，但风险也真实存在，如果只是等待的话将付出代价。

一点思考

AI出现欺骗行为，这件事本身并不神秘。

模型被训练去完成某个任务，它发现在某些情况下不说真话能更高效地完成任务，于是就学会了不说真话。

问题是，我们不知道它还会学会什么。

“AI能力正在超越科学理解和政府适应能力。”本吉奥的这句话值得反复琢磨

当一项技术的发展速度超过了人类对它的理解速度，我们就进入了摸着石头过河的状态。而且河底的石头是什么，我们都不太清楚。

如果AI继续以这个速度进化，那么如何去理解它、如何去验证它、如何去信任它，或许才是科技公司当下真正值得解决的问题。