阿里安全 违法信息管控在云计算领域的实践 什么样的信息属于违法信息 简单说违反国家法律法规政策的信息都属于违法信息 违法信息常见的有哪些类型 • 淫秽色情 • 赌博 • 诈骗 • 侵权 • 违反宪法原则 • 暴恐 • ……… 管控依据 • 法律 • 中华人民共和国侵权责任法 • 中华人名共和国电子签名法 • 行政法规 • 互联网上网服务营业场所管理条例 • 互联网信息服务管理办法 • 中华人民共和国电信条例 • 计算机信息网络国际联网安全保护管理办法 • 部门规章 • 互联网新闻信息服务单位约谈工作规定 • 《关于规范网络转载版权秩序的通知》 • 公安部、网信办、工信部等6部门联合发布 《互联网危险物品信息发布管理规定》 • 司法解释 • 最高人民法院、最高人民检察院关于办理利 用信息网络实施诽谤等刑事案件适用法律若 干问题的解释 • 最高人民法院、最高人民检察院关于办理利 用互联网、移动通讯终端、声讯台制作、复 制、出版、贩卖、传播淫秽电子信息刑事案 件具体应用法律若干问题的解释 计算机信息网络国际联网安全保护管理办法 第亓条 任何单位和个人不得利用国际联网制作、复 制、查阅和传播下列信息： • 煽动抗拒、破坏宪法和法律、行政法规实施的； • 煽动颠覆国家政权，推翻社会主义制度的 • ………… 第十条 互联单位、接入单位及使用计算机信息网络 国际联网的法人和其他组织应当履行下列安全保护职 责： • 负责本网络的安全保护管理工作，建立健全安全保护管 理制度 • 落实安全保护技术措施，保障本网络的运行安全和信息 安全 • 按照国家有关规定，删除本网络中含有本办法第亓条内 容的地址、目录或者关闭服务器 安全事记 • 2013年11月，十八届三中全会决定设立国家安全 委员会，习近平任主席 • 2015年7月，全国人大常委会通过了国家安全法草 案 云计算环境下进行管控的难点 海量 处理性能 识别难 • 海量网站 • 如何处理海量信息 • 如何精确识别 • 海量信息 1.0 时代 • 基于外购设备 技术介绍 运营经验小结 • 解决了从无到有的问题 • 违法网页识别效果未达预期 • 累积了管控经验 • 设备是黑盒，运维不方便 • 数据不共享，不能和阿里主站联防联控 • 不适应公司的业务和技术发展需要 2.0 时代 • 自研违禁违法信息管控系统，内部代号：照妖镜 • 解决上一代运营中暴露的问题 照妖镜架构图 泛ECS OSS CDN 快照系统 识别系统 文本识别 图像识别 处罚管理 白名单管理 处罚中心 网页屏蔽 处罚通知 CTU 模型平台 人工辅助 人工判定 支撑系统 监控系统 风险管理系统 文件冻结 用户/权限系统 照妖镜核心技术 —— 精确识别 • 共享阿里海量的文本和图片信息 • 基于机器学习，深度学习等算法技术 精确识别 —— 文本识别 关键词过滤 • 优点：运行速度快，更新响应快，适应变化性高 • 缺点：误抓比较高 • 特点：识别变形词，同音词，拆字等变形 黑样本匹配 • 优点：运行速度中，更新响应快 • 缺点：适应变化性低 • 特点：文本段相似，句子相似，语义相似 机器学习 • 优点：运行速度中，适应变化性中上 • 缺点：更新响应慢 • 特点：基于最大熵，SVM等算法 精确识别 —— 图像DNA比对 精确识别 —— 黄图识别 传统方法 思路：肤色+连通区+人脸+SVM 缺点：误判高、召回低、新特征发现成本高 深度学习 特点： 1、准确率召回率高 2、自动学习特征 3、更适合大数据 照妖镜效果 运营经验小结 • 违法信息识别效果不错，节约大量人力 • 处罚不友好，很多用户抱怨没有事先通知 • 系统自主掌握，运维方便 • 管控标准统一，不能满足客户个性化的需求 • 数据共享，与阿里主站联防联控 • 无法适应云计算的迅猛发展 • 适应了公司的业务发展和新的技术架构体系 3.0 时代 • 新一代产品 —— 阿里绿网 阿里绿网是一款提供信息内容安全检测及 管控的产品，当用户的网站内容涉及违规 信息时，阿里绿网会及时发现，并提供用 户违规信息的查看和管理功能 产品流程&功能 多种违规，智能识别 疑似违规，提前预警 违规信息，快速查询 通过多重检测功能，对 赌博、色情、枪支、毒 品等多种违规内容智能 识别 发现疑似违规会提前预 警并提供屏蔽，忽略等 快速操作的管理功能 违规内容模块超链接及 快照功能，方便用户快 速查阅 产品优势