今日，硅谷围绕人工智能风险的争论再次升温。AI拥护者担忧大型AI实验室可能通过专有模型充当“特洛伊木马”，利用企业输入的敏感资料逐渐摸清客户业务，并可能利用积累的知识开拓同类业务，与客户直接竞争。纳德拉在博客中警告，企业在使用AI时实际上付了两遍钱：一遍是明码标价的token费用，另一遍则是在毫无察觉的情况下交出有价值的数据。企业为了让模型更懂自身需求，实际上正在一点点把经营诀窍教给模型。

纳德拉指出，模型会从“使用痕迹”中学习，包括人们输入的提示词、智能体调用的工具，尤其是模型犯错后人们给出的纠正。每一次纠正最终都会变成企业内部积累的经验。竞争对手无论花多少钱，都很难买到同样的经验，企业却在使用模型的过程中主动把经验交了出去。他主张，AI企业既然可以抓取互联网内容训练模型，企业也应当有权反过来研究并“蒸馏”AI企业的模型。所谓“模型蒸馏”，就是分析一个模型给出的答案，从中摸清模型如何工作，再据此训练成本通常更低的新模型。纳德拉的核心观点是，模型提供商不能只允许自己利用别人的数据。