序号

义务人

义务

A. 在推出新的人工智能产品、服务或应用程序时或之前

算法的备案（无论生成式或非生成式人工智能）

1.

所有算法推荐服务提 供者（包括全部生成 式人工智能服务提供 者和技术支持者）

算法备案

根据算法推荐规定第24条的规定，义务人应在提供服务之日后10个工作日内  向网信办或其地方网信部门进行有关算法（AIGC情况下，主要为生成式或合 成类算法）的备案。

值得注意的是，算法推荐规定、深度合成规定和生成式AI办法均规定，只有 在产品、服务或应用程序具有 “舆论属性或社会动员能力”时才会产生备案 义务。我们认为，这项规定旨在澄清关于是否触发备案的不清晰之处，但是 鉴于如下所述该条件的范围广泛，算法备案将可能成为推出任何人工智能产 品、服务或应用程序的强制性前置条件。

舆论属性或社会动员能力

人工智能法规并未对 “舆论属性或社会动员能力”的构成给出清晰的定义或 标准。具有舆论属性或社会动员能力的互联网信息服务安全评估规定（安全 评估规定）于2018年由网信办及公安部联合公布，是对此事宜的唯一适用指 引。根据安全评估规定，下述互联网信息服务应被视为具有舆论属性或社会 动员能力：

•      开办论坛、博客、微博客、聊天室、通讯群组、公众账号、短视频、网 络直播、信息分享、小程序等信息服务或者附设相应功能；及

•      开办提供公众舆论表达渠道或者具有发动社会公众从事特定活动能力的 其他互联网信息服务。

所涉范围非常宽泛，可涵盖几乎所有互联网信息服务。在实践中，互联网公 司通常会主动履行算法备案手续，但监管当局也可主动要求备案。

备案

算法备案应包含服务提供者或技术支持者（以适用者为准）的名称、服务或 技术支持形式、算法类型、应用领域/产品类型（例如，应用程序、网站及小 程序），以及算法自评估报告。备案手续完成后，应及时在相关网站或应用 程序上展示备案编号和公示信息链接。

以下关于算法备案的不清晰之处，人工智能算法备案清单中做了进一步澄清：

序号

义务人

义务

•     谁应作为技术支持者提出申请：通过 API 向企业客户提供生成式或合成 类算法服务（即 B2B）（而非直接服务公众）的任何实体。

•     哪些种类的服务会受到规管：使用算法推荐技术的任何形式的服务，包 括应用程序、网站和小程序。

•     大语言模型（LLM）算法是否受到规管：是，百度（作为服务提供商） 和科大讯飞（作为技术支持）已分别提交了LLM算法。

技术支持者应当参照服务提供者履行备案手续。但是，生成式AI办法尚未明  确，如因提供API而被视为服务提供者的技术支持者，已经完成算法备案，则 直接服务提供者是否还需要办理相关备案手续。在人工智能算法备案清单

中，服务提供者和技术支持者的备案没有重叠，迄今为止，在41个备案算法 中，仅8个算法是由技术支持者备案的。这表明，自算法推荐规定生效以来， 直接服务提供者在算法备案过程中发挥了更加积极主动的作用。

算法推荐规定、深度合成规定和生成式AI办法均规定了这一义务。

产品、服务、应用程序等（无论生成式或非生成式人工智能）的安全评估

2.

所有算法推荐服务提 供者（包括全部生成 式人工智能服务提供 者和技术支持者）

安全评估

义务人在推出产品、服务、应用程序、功能或工具之前，应根据安全评估规定 进行安全评估，并向所在地地市级网信部门和公安机关提交安全评估报告。

算法推荐规定、深度合成规定、生成式AI办法和安全评估规定均规定，只有在 特定条件下才会触发安全评估。该等条件包括：

•     上线的新产品、服务、应用程序或功能具有 “舆论属性或社会动员能力” 或导致 “舆论属性或社会动员能力”发生重大变化（见上文的分析）；

•      用户规模显著增加，导致 “舆论属性或者社会动员能力”发生重大变化；

•     发生违法有害信息传播扩散，表明已有安全措施无法有效防控网络安全 风险；

•     （如为深度合成技术）模型、模板等的工具用于生成或者编辑人脸、人声 等生物识别信息，或可能涉及国家安全、国家形象、国家利益和社会公共 利益的特殊物体、场景等非生物识别信息；或

•     地市级以上网信部门或者公安机关书面通知需要进行安全评估的其他情 形。

但是，鉴于“舆论属性或社会动员能力”的条件范围广泛，根据安全评估规 定开展的安全评估，将很可能成为推出任何人工智能产品、服务或应用程序 的强制性前置条件。

序号

义务人

义务

安全评估

这项安全评估是不同于网信办在个人信息保护法（PIPL）下要求就个人信息 出境进行的安全评估，以及（构成算法备案一部分的）算法自评估报告，且 与上述各项分开的。

根据安全评估规定，服务提供者可以自行实施安全评估，也可以委托第三方 安全评估机构实施。安全评估重点评估下列内容：

•     确定与所提供服务相适应的安全管理负责人、信息审核人员或者建立安 全管理机构的情况；

•      用户真实身份核验以及注册信息留存措施；

•     对用户的账号、操作时间、操作类型、网络源地址和目标地址、网络源端 口、客户端硬件特征等日志信息，以及用户发布信息记录的留存措施；

•      用户账号和通讯群组名称、昵称、简介、备注、标识，信息发布、转

发、评论和通讯群组等服务功能中违法有害信息的防范处置和有关记录 保存措施；

•     个人信息保护以及防范违法有害信息传播扩散、社会动员功能失控风险 的技术措施；及

•     服务提供者是否已建立(i) 投诉、举报制度，公布投诉、举报方式等信

息，及时受理并处理有关投诉和举报的情况；及(ii) 为相关互联网信息服 务及国家安全或公安机关履行其监督管理职责提供技术、数据支持和协  助的工作机制的情况。

安全评估报告应基于安全评估制定，由服务提供者通过全国互联网安全管理 服务平台提交所在地地市级以上网信部门和公安机关。该报告应包括：(i) 服 务功能、服务范围、软硬件设施、部署位置等基本情况和相关证照获取情

况；(ii) 安全管理制度和技术措施落实情况及风险防控效果；(iii) 安全评估结 论；及(iv) 其他应当说明的相关情况。

算法推荐规定、深度合成规定及生成式AI办法均规定了该项义务。

应用程序分发平台进行程序性审查（主要是生成式人工智能）

3.

网络应用程序分发平 台（AIGC的情况）

应用商店进行核实验证

在网络应用程序分发平台上推出应用程序之前，必须核实适用法律法规所规 定的安全评估和备案手续均已完成。虽然这不属于应用商店提起的实质性审 查，但却似乎增加了另一层仅适用于应用程序的程序性审查。尽管网站无需 完成该第三方审核，但其仍须遵守算法备案和安全评估要求。

仅深度合成规定规定了这项义务。

序号

义务人

义务

人工智能有关研发（无论生成式及非生成式人工智能）的伦理审查

4.

从事研发活动的人工 智能服务提供者及技 术支持者

伦理审查

根据伦理审查办法（草案）第5条，任何高校、科研机构、医疗卫生机构和企 业从事包括人工智能在内的某些 “伦理敏感领域”科技活动的，都必须成立  科技伦理审查委员会。

伦理审查办法（草案）附录列出了高风险科技活动清单，其中包括具有舆论 社会动员能力和社会意识引导能力的算法模型、应用程序及系统的研发。根 据伦理审查办法（草案）第 32 条的规定，这些高风险活动应接受 (i) 伦理审 查委员会的初步审查；(ii) 当地或相关行业主管部门的专家复核。

虽然 “伦理敏感”的含义尚不明确，但鉴于人工智能相关研发已被明确列为 上述高风险科技活动，成立伦理审查委员会并对人工智能相关研发进行伦理 审查很可能成为人工智能服务提供者和技术支持者的强制性（而非有条件） 前置条件。

登记

义务人应在科技部建立的国家科技伦理管理信息登记平台上，分别 (i) 在伦理 审查委员会成立后 30 天内（伦理审查办法（草案）第 44 条）登记伦理审查  委员会；(ii) 在高风险科技活动（包括伦理审查委员会的初审和地方或相关行 业主管部门的专家复审）经伦理审查核准后 30 天内（伦理审查办法（草案） 第 45 条）登记该高风险科技活动。登记内容应包括：(i) 伦理审查委员会及其 组成、章程、工作制度等相关信息；(ii) 科技活动实施方案、初审和专家复核 结果等相关信息。相关内容发生变化时，应及时更新登记内容。

该义务源于伦理审查办法（草案），尚不具有法律约束力。

B. 在人工智能产品、服务或应用程序的日常营运期间

一般义务

1.

所有算法推荐服务提 供者（包括全部生成 式人工智能服务提供 者和技术支持者）

遵守法律、社会公德及伦理

根据算法推荐规定第4条，提供算法推荐服务，应当遵守法律法规，尊重社会 公德和伦理，遵守商业道德和职业道德，遵循公正公平、公开透明、科学合  理和诚实信用的原则。

与之类似，根据深度合成规定第4条，提供深度合成服务，应当遵守法律法 规，尊重社会公德和伦理道德，坚持正确政治方向、舆论导向、价值取向， 促进深度合成服务向上向善。

序号

义务人

义务

1.

虽然还有反映这些价值的更具体的义务（如下面列出的关于输入和输出的具 体义务），但这些是各项服务的总体价值和要求。除了更具体的要求外，这 些义务在实践中如何适用还有待观察。

算法推荐规定和深度合成规定规定了该项义务。

2.

所有算法推荐服务提 供者（包括全部生成 式人工智能服务提供 者和技术支持者）

不得使用算法推荐服务进行操纵

根据算法推荐规定第14条，算法推荐服务提供者不得利用算法虚假注册账

号、非法交易账号、操纵用户账号或者虚假点赞、评论、转发，不得利用算 法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等 干预信息呈现，实施影响网络舆论或者规避监督管理行为。

算法推荐规定规定了此项义务。

3.

所有算法推荐服务提 供者（包括全部生成 式人工智能服务提供 者和技术支持者）

不得使用算法推荐服务进行不正当竞争

根据算法推荐规定第15条，算法推荐服务提供者不得利用算法对其他互联网 信息服务提供者进行不合理限制，或者妨碍、破坏其合法提供的互联网信息 服务正常运行，实施垄断和不正当竞争行为。

与之类似，根据生成式AI办法第4(3)条，义务人不得利用算法、数据、平台等 优势，实施垄断和不正当竞争行为。

训练数据和数据标注（主要是生成式人工智能）

4.

所有生成式人工智能 服务提供者和（通过 API提供技术的）技 术支持者

训练数据规则

生成式AI办法第7条规定，义务人应当依法开展预训练、优化训练等训练数据 处理活动，遵守以下规定：

•     使用具有合法来源的数据和基础模型；

•     涉及知识产权的，不得侵害他人依法享有的知识产权；

•     涉及个人信息的，应当取得个人同意或者符合法律、行政法规规 定的其他情形；

•     采取有效措施提高训练数据质量，增强训练数据的真实性、准确 性、客观性、多样性；

•     中华人民共和国网络安全法、中华人民共和国数据安全法、中华 人民共和国个人信息保护法等法律、行政法规。

序号

义务人

义务

与之类似，深度合成规定第14条要求，深度合成服务提供者和技术支持者采 取必要措施保障训练数据安全；训练数据包含个人信息的，应当遵守个人信 息保护的有关规定。

我们注意到，生成式AI办法正式版本中的规定“采取有效措施”增强训练数 据的真实性、准确性、客观性、多样性，相比生成式AI办法的草案（要求义 务人“确保”训练数据的真实性、准确性、客观性、多样性），有所放松。

深度合成规定和生成式AI办法规定了该项义务。

5.

所有生成式人工智能 服务提供者和（通过 API提供技术的）技 术支持者

训练数据标注规则

根据生成式AI办法第8条，在生成式人工智能技术研发过程中进行数据标注  的，义务人应当制定符合本办法要求的清晰、具体、可操作的标注规则；开 展数据标注质量评估，抽样核验标注内容的准确性；对标注人员进行必要培 训，提升尊法守法意识，监督指导标注人员规范开展标注工作。

“数据标注”一词与人工智能法规下所要求的内容标识（见下文）有所不

同。数据标注是在训练模型时用人手将标记或标签添加到相片、视频、文本 和音频等原始数据的过程。这些标记说明数据的实体类型，引用该数据的各 种属性和特征。这样的话，机器学习模型便可在没有标签的情况下学习识别 数据，且对建立准确的模型十分重要，但前提是标注人员具备所需经验和训 练有素。

仅生成式AI办法规定了这项义务。

6.

所有生成式人工智能 服务提供者和（通过 API提供技术的）技 术支持者

配合监管部门对训练数据作出说明

根据生成式AI办法第19条，有关主管部门依据职责对生成式人工智能服务开 展监督检查，义务人应当依法予以配合，按要求对训练数据来源、规模、类 型、标注规则、算法机制机理等予以说明，并提供必要的技术、数据等支持 和协助。

仅生成式AI办法规定了这项义务。

核实用户的真实身份（主要是生成式人工智能）

7.

深度合成服务提供者

核实用户的真实身份

根据深度合成规定第9条，深度合成服务提供者应当基于移动电话号码、身份 证件号码、统一社会信用代码或者国家网络身份认证公共服务等方式，依法  对深度合成服务使用者进行真实身份信息认证，不得向未进行真实身份信息  认证的深度合成服务使用者提供信息发布服务。

仅深度合成规定规定了这项义务。

序号

义务人

义务

针对更改生物识别信息取得单独同意（主要是生成式人工智能）

8.

深度合成服务提供者 和技术支持者

通知及获得深度合成服务主体的同意

根据深度合成规定第14条，深度合成服务提供者和技术支持者提供人脸、人 声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编 辑的个人，并取得其单独同意。例如，如果个人/公司甲向深度合成服务输入 了个人乙的人脸照片以更改个人乙的人脸，个人/公司甲必须取得个人乙的单 独同意。

仅深度合成规定规定了这项义务。

输入数据（主要是生成式人工智能）

9.

所有生成式人工智能 服务提供者和（通过 API提供技术的）技 术支持者

保护用户输入数据的隐私

根据生成式AI办法第11条，提供者对使用者的输入信息和使用记录应当依法履 行保护义务，不得收集非必要个人信息，不得非法留存能够识别使用者身份的 输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录。

仅生成式AI办法规定了这项义务。

输出内容审核（无论生成式及非生成式人工智能）

10.

所有算法推荐服务提 供者（包括全部生成 式人工智能服务提供 者和技术支持者）及 使用者

呈现符合主流价值导向的信息，倡导社会主义核心价值，以及内容限制

算法推荐规定第11条要求义务人应当在首页首屏、热搜、精选、榜单类、弹 窗等重点环节积极呈现符合主流价值导向的信息。

算法推荐规定第6条也笼统地规定，算法推荐服务提供者应当坚持主流价值导 向，积极传播正能量。

与之类似，深度合成规定第4条规定，提供深度合成服务，应当坚持正确政治 方向、舆论导向、价值取向，促进深度合成服务向上向善。

算法推荐规定和深度合成规定均规定，义务人不得利用服务：

•     从事危害国家安全和利益、损害国家形象、侵害社会公共利益、 扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止 的活动； 或

•     制作、复制、发布、传播法律和行政法规禁止的信息。 生成式AI办法第4条进一步规定，义务人：

•     坚持社会主义核心价值观；

序号

义务人

义务

•     不得生成危害国家安全和利益、损害国家形象，宣扬恐怖主义、 极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚 假有害信息等法律、行政法规禁止的内容；

•     采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、 职业、健康等歧视；

•     尊重知识产权、商业道德，保守商业秘密， 不得利用算法、数 据、平台等优势，实施垄断和不正当竞争行为；

•     尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像 权、名誉权、荣誉权、隐私权和个人信息权益。

算法推荐规定、深度合成规定和生成式AI办法均规定了该项义务。

11.

所有生成式人工智能 服务提供者和（通过 API提供技术的）技 术支持者

采取有效措施提高AIGC的准确性和可靠性

根据生成式AI办法第4(5)条，义务人应当基于服务类型特点，采取有效措施， 提高生成内容的准确性和可靠性。

我们注意到生成式AI办法正式版本中的该项规定（采取有效措施提高AIGC的 准确性和可靠性），相比其草案（其中义务是“确保”AIGC真实准确且不包 含任何歧视性内容）有所放松。

仅生成式AI办法规定了这项义务。

12.

所有算法推荐服务提 供者（包括全部合成 服务提供者及使用

者）

特别禁止传播虚假消息

根据算法推荐规定第13条，算法推荐服务提供者提供互联网新闻信息服务

的，应当依法取得互联网新闻信息服务许可，规范开展互联网新闻信息采编 发布服务、转载服务和传播平台服务，不得生成合成虚假新闻信息，不得传 播非国家规定范围内的单位发布的新闻信息。

根据深度合成规定第6条，深度合成服务提供者和使用者不得利用深度合成服 务制作、复制、发布、传播虚假新闻信息。

这些规定特别禁止传播假新闻或并非来自国家授权实体的新闻。但根据人工 智能生成条例，真实性和准确性也是必须履行的义务。根据上述关于真实性 和准确性的生成式AI办法，这项义务也是必要的。

算法推荐规定和深度合成规定均规定了此项义务。

13.

所有算法推荐服务提 供者（包括全部合成 服务提供者）

屏蔽非法有害信息

根据算法推荐规定第9条，义务人应当建立健全用于识别违法和不良信息的特

征库，完善入库标准、规则和程序。

序号

义务人

义务

深度合成规定第10条进一步规定，深度合成服务提供者应当加强深度合成内 容管理，采取技术或者人工方式对深度合成服务使用者的输入数据和合成结 果进行审核。

算法推荐规定第12条鼓励算法推荐服务提供者综合运用内容去重、打散干预 等策略（避免特定推荐结果集过度集中）。

算法推荐规定和深度合成规定均规定了此项义务。

14.

所有算法推荐服务提 供者（包括全部生成 式人工智能服务提供 者和技术支持者）

防范虚假、违法或有害信息的措施

总体而言，义务人应当采取措施防范和制止传播虚假、违法或有害信息。

根据算法推荐规定，发现违法信息的，应当立即停止传输，采取消除等处置 措施，防止信息扩散，保存有关记录，并向网信部门和有关部门报告。发现 不良信息的，应当按照网络信息内容生态治理有关规定予以处置。

根据深度合成规定第11条，义务人发现利用深度合成服务制作、复制、发

布、传播虚假信息的，应当及时采取辟谣措施，保存有关记录，并向网信部 门和有关主管部门报告。

与之类似，生成式AI办法规定，义务人发现违法内容的，应当及时采取停止 生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并 向有关主管部门报告。义务人发现使用者利用生成式人工智能服务从事违法 活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等 处置措施，保存有关记录，并向有关主管部门报告。

此外，生成式AI办法第9条规定，义务人应当依法承担网络信息内容生产者责 任。尽管在生成式AI办法中并无“网络信息内容生产者”及其义务的明确定  义，但相同概念见于网信办发布的网络信息内容生态治理规定（网络生态治  理规定，于2020年3月1 日生效）。根据网络生态治理规定，网络信息内容生  产者不得制作、复制、发布违法信息；应当采取措施，防范和抵制制作、复  制、发布不良信息。

算法推荐规定、深度合成规定和生成式AI办法规定了该项义务。

合成内容标识（主要是生成式人工智能）

15.

所有生成式人工智能 服务提供者和（通过 API提供技术的）技 术支持者

标识内容

根据深度合成规定第16条和生成式AI办法第12条，关于使用深度合成服务生 成或者编辑的信息内容，必须以不影响用户使用有关服务的方式进行标识。 有关服务提供者和技术支持者必须保存相关网络日志信息的记录。

人工智能法规没有说明添加内容标识方法的相关具体要求，而是参照深度合 成规定下的标识规定。

序号

义务人

义务

深度合成规定和生成式AI办法规定了该项义务。

16.

深度合成服务提供者

标识合成内容

根据深度合成规定第17条，可能导致公众混淆或者误认的深度合成内容，义 务人必须在合理位置、区域进行显著标识，显示该信息为深度合成内容。该 内容包括模拟真人风格进行的智能对话或智能写作（例如，ChatGPT）、仿 声、人脸图像合成、人脸操控、沉浸式拟真场景等生成或者编辑服务。

就其他深度合成内容而言，义务人必须提示使用者可以进行显著标识，显示 相关信息为合成内容。

根据深度合成规定第18条，个人和组织机构均不得采用技术手段删除、篡 改、隐匿上述标识。

该项义务主要由深度合成规定规定。算法推荐规定也规定，任何由算法生成 的合成内容应当显著标识。

保护使用者的权利（无论生成式或非生成式人工智能）

17.

所有算法推荐服务提 供者

使用标签和选择

根据算法推荐规定第11条，义务人应当加强用户模型和用户标签的管理，完 善用户模型和用户标签管理中的兴趣记录规则，不得将违法有害信息作为用 户兴趣关键词记录，或者制作成用户标签作为推荐信息内容的依据。

此外，根据该规定的第12条，算法推荐服务提供者还应通过建立健全人工干 预机制来加强生态系统管理，并允许用户自主选择内容。

算法推荐规定规定了此项义务。

18.

所有算法推荐服务提 供者

用户权利

根据算法推荐规定第17条，义务人应当保护用户的以下权利：

•     不被针对（通过个人特征）的权利：义务人应当向用户提供不针 对其个人特征的选项；

•     选择退出的权利 ：义务人应当向用户提供便捷的关闭算法推荐服 务的选项；及

•     删除个人特征的权利 ：义务人应当使用户能够选择或者删除用于 算法推荐服务的针对其个人特征的用户标签。

此外，根据算法推荐规定第21条，用户享有以下权利

序号

义务人

义务

•     不被实施差别待遇的权利： 义务人向消费者销售商品或者提供服 务的，不得根据消费者的偏好、交易习惯等特征， 利用算法在交 易价格等交易条件上实施不合理的差别待遇等违法行为。

根据生成式AI办法第11条，义务人应当依法及时受理和处理个人关于查阅、 复制、更正、补充、删除其个人信息等的请求。

算法推荐规定和生成式AI办法规定了该项义务。

19.

所有生成式人工智能 服务提供者和（通过 API提供技术的）技 术支持者

使用条款

根据生成式AI办法第9条，义务人当与生成式人工智能服务使用者签订服务协 议，明确双方权利义务。

生成式AI办法规定了该项义务。

20.

所有算法推荐服务提 供者（包括全部生成 式人工智能服务提供 者和技术支持者）

披露规定

根据算法推荐规定第16条，义务人应当以显著方式告知用户其提供算法推荐 服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要 运行机制等。

应用算法对用户权益造成重大影响的，应当依法予以说明并承担相应责任。

根据算法推荐规定第7条和第12条，义务人制定并公开算法推荐服务相关规  则，并且鼓励义务人优化检索、排序、选择、推送、展示等规则的透明度和 可解释性，避免对用户产生不良影响，预防和减少争议纠纷。

根据生成式AI办法第10条和第18条，义务人应当明确并公开其服务的适用人  群、场合、用途，指导使用者科学理性认识和依法使用生成式人工智能技术。

算法推荐规定和生成式AI办法均规定了该项义务。

21.

所有算法推荐服务提 供者

不得诱导用户沉迷或过度消费

根据算法推荐规定第8条，义务人不得设置诱导用户沉迷、过度消费等违反法 律法规或者违背伦理道德的算法模型。

针对未成年人，也特别要求履行此项义务（见下文）。

算法推荐规定规定了该项义务。

22.

所有算法推荐服务提 供者（包括全部生成 式人工智能服务提供 者和技术支持者）

保护未成年人、老年人和劳动者

根据算法推荐规定第18条，义务人应当依法履行未成年人网络保护义务，并

序号

义务人

义务

通过开发适合未成年人使用的模式、提供适合未成年人特点的服务等方式， 便利未成年人获取有益身心健康的信息。义务人不得：

•     向未成年人推送可能引发未成年人模仿不安全行为和违反社会公 德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的 信息；

•     利用算法推荐服务诱导未成年人沉迷网络。

根据生成式AI办法第10条，义务人应当采取有效措施防范未成年人用户过度 依赖或者沉迷生成式人工智能服务。

根据算法推荐规定第19条，算法推荐服务提供者向老年人提供服务的，应当 保障老年人依法享有的权益，充分考虑老年人出行、就医、消费、办事等需 求，按照国家有关规定提供智能化适老服务，依法开展涉电信网络诈骗信息 的监测、识别和处置，便利老年人安全使用算法推荐服务。

此外，根据算法推荐规定第20条，算法推荐服务提供者向劳动者提供工作调 度服务的，应当保护劳动者取得劳动报酬、休息休假等合法权益，建立完善 平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法。

算法推荐规定和生成式AI办法均规定了该项义务。

算法的定期审核（无论生成式或非生成式人工智能）

23.

所有算法推荐服务提 供者（包括全部深度 合成服务提供者和技 术支持者）

算法的定期审核

服务提供者和技术支持者必须定期审核、评估、验证算法机制机理、模型、 数据和应用结果。（算法推荐规定第8条和深度合成规定第15条）

算法推荐规定和深度合成规定均规定了该项义务。

24.

从事研发活动的人工 智能服务提供者和技 术支持者

定期伦理审查

根据伦理审查办法（草案）第46条，义务人应于每年3月31 日前，向国家科技 伦理管理信息登记平台提交上一年度科技伦理（审查）委员会工作报告，以  及纳入清单管理的科技活动实施情况报告。

此外，根据伦理审查办法（草案）第39条，义务人应对高风险科技活动进行 跟踪审查，跟踪审查频度在该等活动被批准后不少于每年两次。科技伦理风 险发生重大变化的，应重新开展伦理审查和专家复核，获得批准后方可继续 实施

该义务源于伦理审查办法（草案），尚不具有法律约束力。

序号

义务人

义务

25.

所有生成式人工智能 服务提供者和（通过 API提供技术的）技 术支持者

其他监管部门的监督和核查

根据生成式AI办法第16条，生成式人工智能服务受多个相关监管部门的监  管，包括网络、发展改革、教育、科技、工业和信息化、公安、广播电视、 新闻出版等部门。

相关监管部门应当按其各自职能对生成式人工智能服务进行监督和核查。但 是，生成式AI办法在这方面并没有作出任何更详细的规定，包括如何开展监 督和核查以及在此过程中需要审查哪些内容。

生成式AI办法规定了该项义务。

数据安全管理系统以及技术措施（无论生成式或非生成式人工智能）

26.

所有算法推荐服务提 供者（包括全部生成 式人工智能服务提供 者和技术支持者）

遵守数据安全和个人信息保护法律

提供人工智能相关服务和产品，应当遵守法律法规（算法推荐规定第4条；深 度合成规定；及生成式AI办法）。在AIGC的情况下，生成式人工智能服务提 供者和技术支持者必须确保遵守中国的适用数据安全和个人信息保护法律法  规，包括网络安全法、数据安全法、个人信息保护法和科学技术进步法。

算法推荐规定、深度合成规定和生成式AI办法规定了该项义务。

27.

所有算法推荐服务提 供者（包括全部深度 合成服务提供者）

管理制度和技术措施

一般而言，人工智能服务提供者和技术支持者必须建立健全用户注册、基础 算法和技术的原则审查和伦理审查、信息发布审查、内容审核、数据安全及 个人信息保护、反电信网络诈骗、安全评估监测，以及安全事件应急处置及 数据泄露等管理制度和技术措施（算法推荐规定第7条；及深度合成规定）。

算法推荐规定和深度合成规定规定了该项义务。

28.

网络应用程序分发平 台（AIGC的情况）

网络应用程序分发平台的管理措施

根据深度合成规定第13条，应用程序分发平台必须落实上架审核、日常管

理、应急处置等安全管理措施。对违反适用法律法规的应用程序，相关平台 必须对所涉应用程序采取不予上架、警示、暂停服务或者下架等措施。

仅深度合成规定规定了此项义务。

辟谣及投诉处理机制（无论生成式或非生成式人工智能）

29.

深度合成服务提供者

辟谣机制

深度合成规定第11条规定，服务提供者应当建立健全辟谣机制，发现利用任 何虚假信息的，应当及时采取辟谣措施，保存有关记录，并向网信部门和有 关主管部门报告。