AI产品真正的成本:无法自证已尽审慎义务
▲ 封面
先说结论：企业开发AI产品，真正面临的风险不是"模型偶尔出错"。
更大的隐患在于，一旦产生争议，企业无法拿出证据说明当初为何如此设计、为何如此采集数据、用户是否真正知情、数据来源是否合规、出现问题后如何应对。
上线前，许多团队会准备隐私政策、用户协议、算法文档、服务条款。文档当然不可或缺。但文档只是基础防线。
到了诉讼、投诉、监管调查或客户追责阶段，真正起作用的是完整的证据链条。
AI合规不是撰写一套文件就完事，而是确保每个关键环节都能被追溯还原。
最高人民法院指导性案例265号，涉及一家教育网站和APP采集用户画像信息的纠纷。
用户登录时，被要求填写职业、学习目的、学龄阶段、英语水平等内容。若不填写，则无法继续登录。页面未提供"跳过""拒绝"等选项，也不存在不同意提交信息时的替代登录方案。
企业辩称，这些信息用于根据用户需求推荐合适内容，属于自动化决策所需，是提供服务的前提条件。
法院未采纳这一观点。
裁判要旨中有一个很实用的判断标准：是否属于《个人信息保护法》第13条第一款第二项规定的"为订立、履行个人作为一方当事人的合同所必需"，需结合必要信息范围、合同类型和内容综合判断。若不处理相关信息，基本功能服务或用户自主选择的附加功能服务仍能实现，就不能简单认定为"合同所必需"。
教育类APP的核心功能是在线辅导、网络课堂等。涉案用户画像信息并非核心功能所必需。关键问题在于，产品未给用户留出拒绝选项。所谓"同意"，是在无法继续使用的压力下做出的，不符合《个人信息保护法》第14条关于自愿、明确同意的规定。
这对于AI产品具有重要警示意义。
如今很多产品都喜欢强调"为了个性化体验""为了智能推荐""为了提升模型效果"。这些话在产品评审会上听起来都合理，但到了法律评判层面，还需要回答更细致的问题：
这项信息是否为基本功能所必需？
是否存在附加功能的独立选项？
用户拒绝后，能否继续使用基础服务？
同意记录能否调取？
当时页面呈现形式如何，版本号是多少？
如果这些问题无法回答，隐私政策写得再详尽，也难以弥补产品设计本身的缺陷。
另一个可参照的案例，是最高人民法院指导性案例262号。
涉案乙APP上有50392个短视频与甲APP短视频完全一致，且短视频中包含甲APP专有代码；还涉及19079个注册用户昵称、用户头像，其中15924个与甲APP相同；127处评论内容、顺序、标点符号与甲APP相同。
此案的重要性在于，它没有简单停留在"短视频是否构成作品"的问题上。
法院认为，平台对短视频、用户评论、用户信息等采集、汇聚形成的数据集合，投入了人力、物力、财力，并通过经营积累形成独立经济价值。未经许可抓取搬运大量数据，在另一APP展示使用，足以实质性替代原平台产品和服务，损害平台经营性利益，构成不正当竞争。
这对于AI训练、智能推荐、数据聚合产品都有警示作用。
公开可见，不等于可以批量获取。
用户上传，不等于平台没有经营性利益。
数据不构成作品，不等于没有其他法律保护途径。
尤其是修订后的《反不正当竞争法》已对侵害数据权益的不正当竞争行为作出专门规定，并自2025年10月15日起施行。企业进行AI数据采集、模型训练、内容聚合、竞品监测时，不能只问"技术上能否抓取"，还要问"法律上如何解释本次获取、使用和输出"。
AI产品最常见的风险，不是采集了信息，而是无法说明为何必须采集。
上线前，企业至少应为每类信息建立一张清单：
采集什么？
对应哪个功能？
是基本功能必需，还是附加功能需要？
用户拒绝后，服务能否继续提供？
是否存在低侵入替代方案？
这张清单不是给法务自我满足用的。它应当能够反向约束产品设计。
如果某项信息只是"有了更好"，就不要纳入基础登录必填项。如果某项信息只是为了推荐更精准，就应将其置于可选的附加功能中，并提供跳过路径。
必要性留痕的价值，在争议发生后才会显现。企业不能仅说"我们认为必要"，而要拿出当时的产品功能说明、字段设计说明、评审记录和版本截图。
个人信息保护中的"同意"，不是页面上放置一个勾选框那么简单。
《个人信息保护法》第14条要求同意应在充分知情前提下自愿、明确作出；第16条还规定，不得以个人不同意处理其个人信息或撤回同意为由拒绝提供产品或服务，处理个人信息属于提供产品或服务所必需的除外。
因此企业要留存的不只是"用户点了同意"。
还要留存：
当时展示了什么告知内容。
用户是否可以拒绝。
拒绝后能否继续使用基础功能。
撤回同意入口在哪里。
版本更新后是否重新告知。
实际操作中，我更倾向于将其称为"拒绝路径测试"。上线前不要只测试用户同意后流程是否顺畅，还要测试用户不同意、撤回、跳过、删除、查阅复制个人信息时，系统能否正常响应。
很多合规问题，就是在"拒绝路径"中暴露的。
AI产品只要涉及训练、检索增强、内容聚合、用户画像、外部数据库接入，就离不开数据