DB31/T 1560-2025 互联网信息内容安全审核能力通用要求

上海市地方标准DB31/T 1560-2025《互联网信息内容安全审核能力通用要求》是面向上海市互联网信息服务提供者的规范性文件，旨在构建信息内容安全审核体系，强化违法和不良信息治理。以下为核心内容总结：

​​一、适用范围与框架​​

• ​​适用对象​​：上海地区互联网信息服务提供者（如内容发布平台、社交网络、直播平台等），监管部门及第三方评估机构可参考。
• ​​标准结构​​：包含范围、引用文件、术语定义、等级划分、技术能力、管理能力、附录（违法信息类型及能力要求表）及参考文献。

​​二、术语与定义​​

• ​​核心概念​​：明确“互联网信息服务”“信息源”“深度合成技术”“违法和不良信息”等关键术语。
• ​​违法和不良信息类型​​（附录A）：
  • ​​违法类​​：煽动颠覆政权、宣扬恐怖主义、破坏民族团结、传播淫秽色情等违反法律的内容。
  • ​​不良生态类​​：标题党、炒作丑闻、性暗示、血腥暴力、诱导未成年人不良行为等危害网络生态的内容。

​​三、能力等级划分​​

根据企业规模、业务范围和用户规模，审核能力分为两级：

• ​​基本级​​：适用于小型企业、文字/图片业务、用户≤100万。
• ​​增强级​​：适用于中大型企业、音视频业务、用户＞100万。

​​四、技术能力要求​​

​​1. 检测能力​​

• ​​文本​​：需识别汉语/英语、方言/小语种，检测变形文本（如拼音替换、同音字）、语义相似及深度合成内容。
• ​​图片​​：检测嵌入文本、人脸、变种处理（裁剪、翻转）及深度合成图像。
• ​​音频​​：识别多语言语音、声纹特征、背景噪声及合成音频。
• ​​视频​​：分析视频内文本、人脸、剪辑变种及深度合成内容。
• ​​性能指标​​：文本召回率≥85%、精确率≥80%；音视频召回率≥80-85%、精确率≥70-80%。

​​2. 过滤与溯源​​

• ​​过滤​​：支持人工复审、风险值量化与优先审核。
• ​​溯源​​：记录用户操作日志（账号、时间、内容）及信息源元数据，留存日志≥6个月。

​​3. 处置能力​​

• ​​信息源​​：限流、屏蔽、删除。
• ​​用户账号​​：警告、功能限制、封禁。

​​五、管理能力要求​​

​​1. 组织与人员​​

• ​​机构设置​​：最高管理者牵头安全审核机构，设立审核、巡查、应急处置等岗位。
• ​​人员管理​​：背景调查、保密协议、年度培训（政策法规、审核标准、系统操作）、定期考核。

​​2. 审核流程​​

• ​​标准制定​​：编制审核手册，明确程序、标准、时限及分类规则。
• ​​多轮审核​​：对高危信息进行二轮（常规）或三轮（重大事件）审核，30分钟内完成疑似内容处理。
• ​​分类管理​​：按可信度对信息源分类，按IP、实名情况、影响力对用户分级，限制高风险账号权限。

​​3. 监测与应急​​

• ​​预警机制​​：实时监测并预警高风险内容，明确分工与响应流程。
• ​​应急预案​​：制定事件分级处置流程，定期演练。
• ​​投诉处理​​：提供便捷举报渠道，明确受理时限与专职人员。

​​六、附录与参考​​

• ​​附录A​​：详细列举14类违法信息和9类不良生态信息。
• ​​附录B​​：规范性能力要求表，明确技术（检测、过滤、溯源、处置）和管理（组织、人员、审核、应急）条款的等级对应。
• ​​参考文献​​：引用GB/T 25069（信息安全术语）、GA 1278（安全评估程序）等标准。

​​七、实施意义​​

该标准通过量化技术指标（如召回率、精确率）和细化管理流程，推动企业构建系统化审核体系，提升违法信息识别与处置效率，助力营造清朗网络空间，为上海市互联网内容治理提供标准化支撑。