山东
IT之家 7 月 14 日消息，据外媒 TechCrunch 今天（14 日）报道，硅谷围绕人工智能风险的争论持续无休，最让 AI 拥护者坐立不安的，却是大型 AI 实验室可能借专有模型充当“特洛伊木马”。
初创企业和大型企业把敏感资料喂给模型后，模型提供商便能逐渐摸清客户的业务，还可能利用积累下来的知识开拓同类业务，最终与客户直接竞争。
当地时间 12 日，纳德拉在博客中警告，企业使用 AI 时其实付了两遍钱：一遍是明码标价的 token 费用，另一遍则是在毫无察觉的情况下交出有价值的数据。“你实际上付了两次钱，一次用金钱支付，另一次则用更加宝贵的东西支付，也就是为了让 AI 真正发挥作用而必须披露的专有知识。你越希望模型表现得更好，就越需要向模型提供更多知识！”
企业为了让模型更懂自身需求，实际上正在一点点把经营诀窍教给模型。“模型会从‘使用痕迹’中学习，包括人们输入的提示词、智能体调用的工具，尤其是模型犯错后人们给出的纠正。每一次纠正最终都会变成企业内部积累的经验。”
竞争对手无论花多少钱，都很难买到同样的经验，企业却在使用模型的过程中主动把经验交了出去。纳德拉因此主张，AI 企业既然可以抓取互联网内容训练模型，企业也应当有权反过来研究并“蒸馏”AI 企业的模型。
IT之家注：所谓“模型蒸馏”，就是分析一个模型给出的答案，从中摸清模型如何工作，再据此训练成本通常更低的新模型。
纳德拉的核心观点是，模型提供商不能只允许自己利用别人的数据。模型提供商可以用全世界的数据训练模型，却不准其他人以类似方式研究其模型，显然是双标行为。“模型提供商拥有合理使用公共数据训练模型的权利，由此带来的重大创新确有必要，但目前的做法却是转过头来限制模型蒸馏，我认为很讽刺。”
纳德拉尤其警惕模型提供商在服务条款中“保留从客户使用数据和互动数据中学习的权利”。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
