微软CEO纳德拉告诫企业：使用模型越频繁，就等于输送免费企业机密信息

微软CEO向所有拥抱AI（人工智能）的公司发出警示。

近日，微软CEO萨提亚·纳德拉（Satya Nadella）在X（原推特）平台上发表一篇题为《逆向信息悖论（The Reverse Information Paradox）》的文章，分享了自己对于企业采用AI的隐性成本的看法，提醒企业注意保护自身商业隐私。这篇文章也被视为纳德拉对当下前沿AI实验室在数据方面“双标”行为的一次“开炮”。

纳德拉撰文讨论企业采用AI时面临的陷阱。来源：X平台

纳德拉表示，1972年诺贝尔经济学奖得主肯尼斯·阿罗（Kenneth Arrow）曾描述过信息市场中的一个著名悖论：“购买者在获得信息之前无法得知其价值，但一旦获得了信息，他实际上就已经免费占有了它。”在这一“信息悖论”中，卖方面临着为了卖出知识而不得不免费送出知识的风险。

而纳德拉认为，AI带来了相反的问题。在AI时代，买方反而面临着为了使用所购买的产品，而不得不送出知识的风险：“本质上，你在为智能支付两次费用，一次是用金钱，另一次是用更宝贵的东西：为了让该智能发挥作用，你必须披露私有知识。你越希望模型表现出色，就必须喂给它越多的知识！”

正因如此，随着时间的推移，信息不对称会变得越来越严重。在买方使用所购买的产品时，卖方对买方的了解会越来越多，而买方却对此知之甚少，这就是纳德拉所说的“逆向信息悖论”。

对于这个问题的解决方案，纳德拉指出，只有数据保护是不够的。AI模型是从“尾气”（exhaust）中进行学习的，包括人们编写的提示词、智能体所使用的工具，特别是当模型犯错时人类所做的纠正。这是企业竞争对手永远买不到的“知识”，企业却在拱手相让。

同时，具有讽刺意味的是，模型供应商正在反过来对“蒸馏”施加限制性条款，并保留从客户使用和交互数据中进行学习的权利。

“蒸馏”原本是模型训练中的一个技术概念，指的是将大模型中的能力压缩、提炼到更轻量的模型之中。目前，包括Anthropic、OpenAI和谷歌在内的头部AI公司，都依赖于由他人创作的大量互联网内容来训练模型。近年来，众多AI公司都因未经授权抓取内容训练AI而被提起诉讼。

纳德拉强调，每家企业都应该能够控制自己的“学习闭环”：“如果学习只向一个方向流动，经济价值就会向学习基础设施的所有者聚集，而不是流向知识本身的创造者。”

纳德拉进一步指出，在这种情况下，企业需要一个真正的“信任边界”：“在这个边界内，一个组织的数据、痕迹、评估、调整后的权重和记忆得以共同积累和改善。这是一个严密的边界，未经许可，任何东西都不能跨越，甚至连智能‘尾气’也不行。”

纳德拉总结道：“换句话说，一家公司应该能够在这种前提下使用模型，即不放弃令公司独一无二的知识。这就是我们需要去面对的逆向信息悖论。”

纳德拉发表这番言论的时机耐人寻味。虽然纳德拉并未点名，但外界普遍认为，他的这番言论主要针对Anthropic。

此前，Anthropic被曝在旗下编程工具Claude Code中嵌入了“隐形代码”。如果用户启用了网络代理，Claude Code会通过对系统提示词进行不可见的修改，秘密传输位置等信息。随后，Claude Code方面在X平台上回应称，这是公司在今年3月启动的一项实验，“旨在防止未经授权的转售商滥用账户并防范蒸馏行为”。

今年2月，特斯拉CEO埃隆·马斯克（Elon Musk）也曾批评Anthropic收集数据和训练模型的方式。他曾在X平台上评论道：“Anthropic大规模窃取训练数据，并因此支付了数十亿美元的和解金。这就是事实。”