进入视频社交时代,用户通过拍摄短视频记录与分享生活很大程度降低了用户生产内容的成本,但海量 UGC 内容凭借个体化、碎片化的特性,极易在网络广泛传播。七牛云AI实验室在内容审核领域研发,在0.01s内 可审核出平台违规的内容。通过接入平台现有的 API 接口,精准识别图片及视频中的违规内容并及时删除,可规避内容违规的风险。
七牛云采用 AI 审核的方式,可替代 80% 以上的人工审核,节省平台自身雇佣人力审核的成本。通过智能审核将平台内容分类,得出相应的概率值来判定内容是否合规。为了提高准确率,七牛云内容审核平台在机器智能审核的基础上,增加了人工复审的审核机制,通过人力完成二次审核,保障了平台的安全,提升了审核的效率和服务质量。七牛云内容审核接口已全面融合了鉴黄、鉴暴恐和政治人物识别这三项功能。同时,基于AVA 深度学习平台,通过模型迭代和算法优化等,可进一步提高审核的准确率。除此之外,平台运营人员还可以自定审核标准和阈值,制定灵活的审核和运营方案。(美通社,2018年7月23日上海)