進入視頻社交時代，用戶通過拍攝短視頻記錄與分享生活很大程度降低了用戶生產(chǎn)內(nèi)容的成本，但海量 UGC 內(nèi)容憑借個體化、碎片化的特性，極易在網(wǎng)絡(luò)廣泛傳播。七牛云AI實驗室在內(nèi)容審核領(lǐng)域研發(fā)，在0.01s內(nèi) 可審核出平臺違規(guī)的內(nèi)容。通過接入平臺現(xiàn)有的 API 接口，精準(zhǔn)識別圖片及視頻中的違規(guī)內(nèi)容并及時刪除，可規(guī)避內(nèi)容違規(guī)的風(fēng)險。

七牛云采用 AI 審核的方式，可替代 80% 以上的人工審核，節(jié)省平臺自身雇傭人力審核的成本。通過智能審核將平臺內(nèi)容分類，得出相應(yīng)的概率值來判定內(nèi)容是否合規(guī)。為了提高準(zhǔn)確率，七牛云內(nèi)容審核平臺在機器智能審核的基礎(chǔ)上，增加了人工復(fù)審的審核機制，通過人力完成二次審核，保障了平臺的安全，提升了審核的效率和服務(wù)質(zhì)量。七牛云內(nèi)容審核接口已全面融合了鑒黃、鑒暴恐和政治人物識別這三項功能。同時，基于AVA 深度學(xué)習(xí)平臺，通過模型迭代和算法優(yōu)化等，可進一步提高審核的準(zhǔn)確率。除此之外，平臺運營人員還可以自定審核標(biāo)準(zhǔn)和閾值，制定靈活的審核和運營方案。