原標(biāo)題：揭秘網(wǎng)絡(luò)直播平臺(tái)審核流程——“機(jī)器+人工”審核 每秒300張截圖鑒黃

　　作為時(shí)下最熱門的信息傳播平臺(tái)之一，量大面廣、轉(zhuǎn)瞬即逝的網(wǎng)絡(luò)直播如何審核監(jiān)管？

　　據(jù)了解，根據(jù)公安部相關(guān)規(guī)定以及近期國(guó)家網(wǎng)信辦發(fā)布的《互聯(lián)網(wǎng)直播服務(wù)管理規(guī)定》，網(wǎng)絡(luò)直播平臺(tái)不得利用直播從事危害國(guó)家安全、破壞社會(huì)穩(wěn)定、擾亂社會(huì)秩序、侵犯他人合法權(quán)益、傳播淫穢色情等法律法規(guī)禁止的活動(dòng)，不得利用互聯(lián)網(wǎng)直播服務(wù)制作、復(fù)制、發(fā)布、傳播法律法規(guī)禁止的信息內(nèi)容。網(wǎng)絡(luò)直播平臺(tái)所在網(wǎng)絡(luò)公司，應(yīng)采取技術(shù)安全措施，防止外來(lái)攻擊；還要設(shè)立安全團(tuán)隊(duì)，對(duì)內(nèi)容、系統(tǒng)、數(shù)據(jù)等安全進(jìn)行防護(hù)，防止非法和低俗內(nèi)容播出。而明年6月1日起將實(shí)施的《中華人民共和國(guó)網(wǎng)絡(luò)安全法》，將進(jìn)一步加強(qiáng)網(wǎng)絡(luò)安全方面的法律規(guī)范。

　　記者從一些直播平臺(tái)了解到，業(yè)內(nèi)一般采取“機(jī)器審核”+“人工審核”模式，同時(shí)還采取各種安全技術(shù)防護(hù)措施。以被網(wǎng)友稱為“B站”的嗶哩嗶哩彈幕網(wǎng)的直播平臺(tái)為例，過去一些平臺(tái)采取“每2至4分鐘的截圖審核”“關(guān)鍵幀監(jiān)察”“第三方圖片識(shí)別”等技術(shù)模式，從截圖到完成人工響應(yīng)，時(shí)間超過4分鐘。該網(wǎng)站針對(duì)自己網(wǎng)站中“二次元”內(nèi)容作為“主打”的特點(diǎn)，應(yīng)用AlexNet的“鑒黃模型”，每秒處理300張截圖；嫌疑圖片從讀圖、圖片傳輸、計(jì)算、返回結(jié)果，全程平均響應(yīng)時(shí)間約2.2秒；10至15秒內(nèi)，后臺(tái)人工審核便可完成對(duì)嫌疑圖片的二次判斷。另外，有了它的幫助，監(jiān)管方能在其他用戶沒有正常進(jìn)入直播間前，就切斷或鎖定直播間，避免有害信息傳播。

　　今年以來(lái)，上海公安網(wǎng)安部門主動(dòng)提前介入、加強(qiáng)源頭管理、引導(dǎo)行業(yè)自律，組織開展網(wǎng)絡(luò)直播平臺(tái)專項(xiàng)整治工作，建立并完善監(jiān)管治理機(jī)制，督促直播平臺(tái)落實(shí)“主體責(zé)任”，最大限度擠壓網(wǎng)絡(luò)違法行為空間。其間，共排查本市網(wǎng)絡(luò)直播平臺(tái)37家，查處21家，關(guān)停違規(guī)直播間1000余個(gè)，注銷未實(shí)名認(rèn)證主播1000余個(gè)，有力凈化了本市網(wǎng)絡(luò)空間環(huán)境。