一、结论先行：五组并列的合规义务
大模型应用落地时最容易出现的误判，是把合规理解为"上线前找一个备案入口"。备案只是其中一环。《生成式人工智能服务管理暂行办法》（国家互联网信息办公室等七部门令第15号，2023年7月10日公布，2023年8月15日施行）设定的是一套从数据到内容、从服务到监管的并列义务群。
- 数据来源合法。依法开展预训练、优化训练等训练数据处理活动，使用具有合法来源的数据和基础模型；涉及知识产权的不得侵害他人依法享有的知识产权；涉及个人信息的应当取得个人同意或者符合法律、行政法规规定的其他情形；采取有效措施提高训练数据质量（第七条）。
- 数据标注规范。在研发过程中进行数据标注的，应当制定清晰、具体、可操作的标注规则，开展标注质量评估、抽样核验标注内容的准确性，对标注人员进行必要培训（第八条）。
- 内容安全与处置。坚持社会主义核心价值观，不得生成法律、行政法规禁止的内容，并防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视（第四条）；发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告（第十四条）。
- 生成内容标识。提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识（第十二条）。
- 安全评估与算法备案。提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续（第十七条）。
二、适用范围与除外：先判断自己是否受规制
《暂行办法》第二条划定了适用边界，这是所有合规工作的起点。
| 情形 | 是否适用《暂行办法》 | 说明 |
|---|---|---|
| 利用生成式人工智能技术向境内公众提供生成文本、图片、音频、视频等内容的服务 | 适用 | 包括通过提供可编程接口（API）等方式向公众提供服务 |
| 从事新闻出版、影视制作、文艺创作等活动，国家另有规定的 | 从其规定 | 行业特别规定优先适用 |
| 行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供服务 | 不适用 | 内部研发、内部使用、内部效率工具属于这一情形 |
| 法律、行政法规规定提供生成式人工智能服务应当取得相关行政许可的 | 应当依法取得许可 | 第二十三条；外商投资还应符合外商投资相关法律、行政法规的规定 |
"未向境内公众提供服务"是内部应用场景的核心判断标准。判断时应当考察：服务对象是否限定于特定员工或者特定客户；是否需要账号白名单或者邀请制；生成内容是否对外发布或者用于对外交付。企业内部知识库问答、代码助手、内部文案草稿工具，通常落在"不适用"一侧；而面向不特定用户的 C 端产品、面向公开客户开放的 API，则明确落在"适用"一侧。
三、训练数据与数据标注：四类证据必须留存
| 证据类别 | 对应条文要求 | 落地留存方式 |
|---|---|---|
| 数据来源合法证明 | 第七条第一项：使用具有合法来源的数据和基础模型 | 数据采购合同、授权书、公开数据集许可协议、开源模型许可证、网页抓取合规评估记录 |
| 知识产权合规证明 | 第七条第二项：不得侵害他人依法享有的知识产权 | 作品授权文件、著作权声明、权利人异议处理记录、投诉处理台账 |
| 个人信息处理依据 | 第七条第三项：取得个人同意或者符合法律、行政法规规定的其他情形 | 同意记录、单独同意记录、个人信息保护影响评估报告；去标识化处理说明 |
| 数据质量与标注规则 | 第七条第四项、第八条：提高训练数据质量；标注规则清晰、具体、可操作；抽样核验；人员培训 | 数据质量评估报告、标注规则文本、抽样核验记录、标注人员培训与考核记录 |
需要与个人信息保护制度衔接的一点是：训练数据中涉及个人信息的，处理依据不限于"同意"。《个人信息保护法》第十三条规定了七类处理个人信息的合法性基础，此外还需判断是否属于处理敏感个人信息，以及是否需要进行个人信息保护影响评估。《暂行办法》第七条第三项的表述是"取得个人同意或者符合法律、行政法规规定的其他情形"，与《个人信息保护法》的合法性基础体系相衔接，不能简化为"一律取得同意"或者"一律不需要同意"。
四、服务规范：六项日常义务
| 义务 | 条文 | 具体要求 |
|---|---|---|
| 主体责任 | 第九条 | 依法承担网络信息内容生产者责任，履行网络信息安全义务；涉及个人信息的，依法承担个人信息处理者责任；与使用者签订服务协议，明确双方权利义务 |
| 提示与未成年人保护 | 第十条 | 明确并公开服务的适用人群、场合、用途；指导使用者科学理性认识和依法使用；采取有效措施防范未成年人用户过度依赖或者沉迷 |
| 输入信息与使用记录保护 | 第十一条 | 不得收集非必要个人信息；不得非法留存能够识别使用者身份的输入信息和使用记录；不得非法向他人提供；依法及时受理处理查阅、复制、更正、补充、删除个人信息的请求 |
| 内容标识 | 第十二条 | 按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识 |
| 服务连续性 | 第十三条 | 提供安全、稳定、持续的服务，保障用户正常使用 |
| 投诉举报机制 | 第十五条 | 建立健全投诉、举报机制，设置便捷入口，公布处理流程和反馈时限，及时受理处理并反馈结果 |
其中第十一条的"不得非法留存能够识别使用者身份的输入信息和使用记录"是实务中最容易出问题的一条。企业出于产品迭代需要留存对话日志时，应当先完成去标识化处理，明确留存目的与期限，并在隐私政策与服务协议中如实告知。若日志中直接保留了手机号、身份证号、企业名称等可识别信息，且无明确合法性基础，即构成违规。
六、安全评估与算法备案：触发条件与办理路径
《暂行办法》第十七条的触发条件是"提供具有舆论属性或者社会动员能力的生成式人工智能服务"。这一表述与《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》中的同类表述一致，属于既有监管口径的延续，判断上需要结合服务的公开程度、内容传播范围与对公众意见形成的影响综合认定。面向社会公众开放、内容可被公开传播、具有较大用户规模的服务，通常应当纳入。
办理路径上还有两点常被忽略：
- 变更与注销备案同样是义务。条文明确要求"履行算法备案和变更、注销备案手续"。服务下线、备案信息发生变化的，应当分别办理注销或者变更，不能只做首次备案。
- 配合监督检查是法定义务。第十九条规定，有关主管部门依据职责开展监督检查，提供者应当依法予以配合，按要求对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明，并提供必要的技术、数据等支持和协助。这意味着备案材料中的信息必须在事后仍然可追溯、可解释。
此外，《网络安全法》2025年修正后新增第二十条，明确国家支持人工智能基础理论研究和算法等关键技术研发，推进训练数据资源、算力等基础设施建设，完善人工智能伦理规范，加强风险监测评估和安全监管。这一条为生成式人工智能的监管提供了更上位的法律依据。（2025年10月28日修改决定公布，自2026年1月1日起施行。）
七、常见问题
问：只做企业内部应用，完全不向公众提供服务，需要备案吗？
《暂行办法》第二条规定不适用，因此不因该办法产生算法备案义务。但企业仍然需要遵守《个人信息保护法》《数据安全法》《网络安全法》等一般性法律义务；若内部系统涉及重要数据、核心数据或者大量个人信息，还应当履行相应的安全保护与评估义务。换言之，"不适用《暂行办法》"不等于"没有合规义务"。
问：使用开源模型对外提供服务，需要对模型训练数据负责吗？
需要。第七条要求"使用具有合法来源的数据和基础模型"，责任主体是提供者。使用开源模型可以降低部分风险，但不能把来源合法性责任转移给开源社区。合规做法是核对开源许可证的授权范围与限制条件，留存模型来源与版本记录，并对微调、二次训练所使用的自备数据单独做合法性审查。
八、实务要点与律师提示
生成式人工智能服务的合规体系可以压缩为一张"四层清单"：数据层（来源合法、知识产权、个人信息、质量与标注）、内容层（禁止生成内容、歧视防范、违法内容处置、生成内容标识）、服务层（服务协议、适用人群提示、未成年人保护、输入信息保护、投诉举报）、监管层（安全评估、算法备案与变更注销、监督检查配合）。每一层都应当有对应文件与台账，做到"问得到、查得着"。
对准备上线生成式 AI 服务的企业，建议按以下顺序推进：第一步做适用范围判断（是否向境内公众提供）；第二步做数据合法性审查并形成书面结论；第三步把标识能力写进技术需求，而不是在验收阶段补做；第四步完成安全评估并办理备案；第五步建立违法内容处置流程与投诉举报台账；第六步建立版本变更时的备案变更机制。
法条与依据核验：《生成式人工智能服务管理暂行办法》（国家互联网信息办公室、国家发展和改革委员会、教育部、科学技术部、工业和信息化部、公安部、国家广播电视总局令第15号，2023年5月23日审议通过，2023年7月10日公布，2023年8月15日起施行）第二条（适用范围与除外）、第三条、第四条（内容安全与歧视防范）、第五条、第六条、第七条（训练数据处理活动）、第八条（数据标注）、第九条（提供者主体责任与服务协议）、第十条（适用人群与未成年人保护）、第十一条（输入信息与使用记录保护）、第十二条（生成内容标识）、第十三条（服务连续性）、第十四条（违法内容处置与报告）、第十五条（投诉举报机制）、第十六条（监督管理职责）、第十七条（安全评估与算法备案）、第十八条（使用者投诉举报权）、第十九条（监督检查配合）、第二十条（境外服务的处置）、第二十一条（法律责任）、第二十二条（用语含义）、第二十三条（行政许可与外商投资）；《互联网信息服务深度合成管理规定》（2022年11月25日公布，2023年1月10日施行）；《人工智能生成合成内容标识办法》（国信办通字〔2025〕2号，2025年9月1日施行）及配套强制性国家标准；《中华人民共和国个人信息保护法》（2021年11月1日施行）第十三条、第二十八条、第五十五条；《中华人民共和国网络安全法》（2025年10月28日修改决定公布，自2026年1月1日起施行）第二十条（新增，人工智能相关条款）。新旧条号对照提示：《网络安全法》2025年修正后，原第二十一条至第五十九条等条文序号整体后移两条，引用旧条号将导致错误，《暂行办法》第一条所引"网络安全法"仍应理解为现行有效版本。特别说明：《暂行办法》第二十一条未单独设定罚款幅度，处罚回落到《网络安全法》《数据安全法》《个人信息保护法》等上位规范；"具有舆论属性或者社会动员能力"的具体认定口径尚无公开的统一量化标准，实务中存在争议。请以国家互联网信息办公室及全国人大官方公布文本为准。
