网易易盾升级内容安全体系 发布智能审核管理系统

  • 时间:
  • 浏览:0
  • 来源:5分赛车娱乐平台-5分赛车下注平台_5分赛车注册平台

内容安全已成为全球性互联网生态治理问題。互联网平台多媒体内容爆发带来海量信息的一并,也泥沙俱下裹挟有大量不良有害信息。  当内容平台发展快速,就会被灰黑产盯上,视作“流量蜜罐”,利用其流量曝

       内容安全已成为全球性互联网生态治理问題。互联网平台多媒体内容爆发带来海量信息的一并,也泥沙俱下裹挟有大量不良有害信息。

  当内容平台发展快速,就会被灰黑产盯上,视作“流量蜜罐”,利用其流量曝光如果,植入涉黄赌毒等不良信息,以及大量垃圾广告等。据不删改统计,2019年,有上千款应用和服务如果内容安全问題而遭遇下架关停等整改,业务发展遭受巨大损失。

  2019年12月19日,网易易盾在北京成功举办2019内容安全智能体系发布会,分享易盾对内容安全体系建设的前瞻思考,并正式发布面向智能时代的审核管理系统,有上百位企业内容风控相关人员参加此次活动,一并研讨内容安全体系建设和实践。

  据调查,有害垃圾内容占互联网UGC内容量的3%左右。其中最多的是各类非法广告类,其次是涉黄低俗类信息,以及涉赌涉毒信息。随着内容的多媒体融合,5G等信息基础设施的发展,互联网内容也迎来大爆发,内容安全压力愈加严峻。

  网易易盾CTO朱浩齐

  网易易盾CTO朱浩齐认为,不到行业一并努力,构建出智能驱动、统一联动、个性定制、共建众治的内容体系,都还都可不还上能全面高效地避免内容安全问題。

  智能驱动:在新一代内容安全体系中,智能技术起着驱动引擎的作用。目前90%以上的海量实时多媒体内容都可不都还都可不还上能被智能技术精准识别过滤。自然语义、图像识别、声纹识别等都不 内容安全领域有性心智心智心智心智成长期 是什么 图片 彻底的落地。

  统一联动:内容安全不到从源头彻底避免,就不到联动账户安全,全链路联动识别分析。采用验证码、注册保护、登录保护等反作弊技术、内容安全云能力和本地审核管理系统的联动,可不都还都可不还上能更有效降低有害内容的产生。

  个性定制:直播短视频、网络文学、社交传媒等各领域的内容监管规定不同,不到根据产品特性来灵活定制每个人的内容安全策略。

  共建众治:有害内容是社会性问題。企业不到有效整合政府法律、技术服务、同行联盟、用户等多种力量一并防治,都还都可不还上能有效打击灰黑产,构建风清气正的互联网生态。

  此次,网易易盾还发布了面向智能时代设计的审核管理系统。

  在未来很长时间内,内容安全依然是人机协同模式,各大平台不到保有一定规模的人工审核部门。但易盾在调研时,发现如果审核管理长久无缘无故 严重不足相应通用规范,操作后台长期得不到研发支持,大多数审核管理系统指在操作繁琐、设计陈旧、功能落后,甚至或多或少操作不到在多个后台跳转避免的问題。

  相比较爆发式的内容增长和日趋严格的监管要求,审核管理系统已成为企业内容安全的最大短板,严重影响了审核效率和安全要求。

  网易易盾此次发布的审核管理系统是面向智能时代的审核机制而设计,具有功能雄厚、智能高效、轻量灵活、交互友好四大优势。

  功能雄厚:支持面向内容的预避免、多重审核、质检溯源全生命周期管理;面向不同业务场景如直播音视频、长文档等垂直场景都不 专门的视频模式。

  智能高效:基于机器学习的聚类审核,这类内容及时预警,审核人员可不都还都可不还上能快速过滤阻止扩散;高并发支持大规模审核团队一并操作,可智能分组排版。

  轻量灵活:无技术支持也可不都还都可不还上能快速接入,支持SaaS和私有化定制,客户可不都还都可不还上能灵活自定义内容接口、安全策略、外观、业务模块等。

  交互友好:深入审核团队研究交互习惯,优化界面交互、功能排列、操作流程。建立积分勋章等游戏化设计,有效降低审核疲惫。单手操作等无障碍辅助设计,让残障人士也可不都还都可不还上能轻松操作。

  网易易盾产品总监饶晓艳

  网易易盾产品总监饶晓艳表示:“审核人员是企业内容安全的重要保障力量,为公司健康发展付出了或多或少,非常高兴可不都还都可不还上能为审核人员设计一套友好有温度的管理系统,让或多或少人儿的工作更加轻松快捷。”

  网易易盾脱胎于网易安删改,扎根内容安全领域已超过20年,2016年对外商用以来,已服务数千家企业,其中不乏OPPO/VIVO、B站、无缘无故 播等知名客户,每日过滤有害信息超过十亿条,目前已是国内领先的内容安全和业务安全服务商。

(本内容属于网络转载,文中涉及图片等内容如有侵权,请联系编辑删除)