北京
出品｜虎嗅科技组
作者｜宋思杭
编辑｜苗正卿
头图｜视觉中国
9月18日，有开发者发现，智谱ZCode在默认开启"代码库索引"的情况下，会将用户工作区及完整Git历史打包上传至云端；智谱随后致歉，称相关功能用于生成Repo Wiki，上传数据会在页面生成后立即销毁。
但这件事情远没有智谱说得那么轻松，他不是一次简单的误操作，也并不是产品功能配置失误，这些都低估了它的严重性。
代码泄漏的第一责任人一定是智谱。因为在这背后的原理是，用户使用的是智谱提供的产品，客户端读取什么、上传什么，功能是否默认开启，用户能否拒绝，都由智谱决定。即使问题由某个开源组件、外包团队或者技术供应商引发，智谱也不能将责任转嫁给一段代码。
更严重的是，ZCode上传的不是用户主动提交给模型的一段代码，而是整个项目工作区和Git历史。Git历史中不只有当前源码，还可能包含未发布功能、被删除的文件、本地分支、提交者信息，以及开发者曾经误传、后来删除的密钥。对一家软件公司而言，这几乎相当于把研发过程、产品路线和内部资产一起交了出去。
也就是说，用户上传给模型的数据都被用来训练智谱自己的模型。这就相当于，如果有企业员工选择用智谱的Coding模型工作，那么这些公司的机密包括核心代码，在智谱模型里面都是透明的。
而用户在这之前甚至不知道数据已经离开本地。
这也是为什么，智谱称数据已经删除，并不足以结束争议。数据一旦上传，控制权就已经发生转移。它是否进入日志、缓存和备份，是否经过其他系统处理，是否被内部人员访问，乃至是否进入后续的数据清洗与模型训练流程，用户都无法从客户端验证。
虎嗅与业内人士交流后了解到，大模型训练数据大致有两类重要来源：一类是公开数据和经过筛选、合成的AI生成数据；另一类则来自真实用户与模型的交互，包括对话、反馈、文档和代码。虎嗅了解后发现大部分模型公司都会选择用前者，但智谱选择了后者。
公开互联网数据可以被所有模型公司获得，真实用户数据却包含具体任务、真实工作流和人工修改结果。尤其在Coding领域，用户提交的问题、模型生成的代码，以及开发者如何修改和接受这些代码，天然构成了高质量的训练和强化学习样本。而智谱代码泄漏的本质就是，模型厂商用用户的隐私来换取这种高价值，代价需要用户承担，收益是模型厂商的。
大部分负责任的模型厂商，不会在用户不知情的情况下，直接使用企业客户或API客户的数据训练模型。原因并不复杂，用户把数据交给模型完成任务，不等于授权平台将其变成训练材料。前者是提供服务所必需的数据处理，后者则是对数据的二次使用，两者需要严格区分。
ZCode事件目前可以确认的是仓库数据被上传，尚没有公开证据能够证明这些代码已经被智谱用于模型训练。也正因如此，智谱必须进一步回答：上传的数据是否曾进入训练数据池、评测集、产品优化样本或人工分析流程？所谓"不会保存"，是否覆盖日志、缓存和灾备副本？历史数据能否被彻底追踪和删除？
这些问题不能只靠一份致歉声明回答。
这件事情带给我们的反思是，Agent能力越强，越应该担心边界问题。
AI编程Agent正在取得远超普通软件的权限，它可以遍历文件、读取代码、执行命令，甚至代替用户修改整个项目。但问题是工具拥有接近开发者本人的访问能力，数据治理仍停留在默认勾选和模糊隐私协议阶段，风险就会变得愈加不可控。
模型厂商需要更多、更真实的数据提升能力，这些是毋庸置疑的，但却不应以牺牲用户的工作成果甚至是企业隐私安全为代价。在商业诱惑之下，仅仅承诺"不会使用"远远不够。行业需要明确的默认规则：用户数据不得默认用于训练；代码、文档和交互记录必须分别授权；企业数据应默认关闭上传；训练数据来源应当可追溯、可退出、可审计。
智谱承诺开源ZCode并引入第三方审计，这是必要的一步，但开源只能让外界看到客户端做了什么，无法自动证明云端没有保存和使用数据。真正需要被公开的，是完整的数据流向和第三方审计结论。这起事件最终拷问的，不只是一家公司的安全能力，而是整个模型行业是否愿意承认一条最基本的边界：用户使用模型，不代表用户同意成为模型的训练数据。
本文来自虎嗅，原文链接：//www.huxiu.com/article/4892629.html?f=wyxwapp
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
