原標題：揭秘：AI鑒黃師是怎么工作的？如何培養(yǎng),？

網(wǎng)絡媒體的發(fā)展催生了一個充滿神秘色彩的職業(yè)——鑒黃師,，不少宅男心中的“夢想工作”。

殊不知,，鑒黃師實則是一個無比艱辛的工種：熬夜、勞累、枯燥……但即便像上了發(fā)條一樣地工作,，他們依然越來越難滿足短視頻時代鑒黃堵漏的需求。

今年四月,，快手,、火山小視頻因傳播低俗信息被約談。自此,，對互聯(lián)網(wǎng)色情內容的打擊力度愈發(fā)升級,。

人工智能鑒黃師（AI）便由此應運而生，AI的出現(xiàn)極大地解放了掙扎在鑒黃大業(yè)一線的人工鑒黃師們,。

目前在我國上線的“AI鑒黃師”,，不僅能鑒別黃片黃圖，連帶有情色信息的語音內容也能夠快速捕捉,。近期上線公測的阿里巴巴AI語音鑒黃反垃圾服務,，不僅能支持中文,、日文、英文等多國語言,，還能識別東北話,、四川話、廣東話等方言,，就連無語義的呻吟聲也能識別出來,。

帶著滿滿的好奇，《環(huán)球時報》記者采訪了AI智能鑒黃在圖片,、語音和語義三大領域的領先技術團隊,，請他們揭開AI鑒黃師的神秘面紗。

AI鑒黃師是怎么工作的,？

在圖像鑒黃領域起步較早的圖普科技公司運營總監(jiān)姜澤榮介紹,，圖像鑒黃的原理首先是要制定色情圖片的分類標準，然后收集大量素材,，進行分類標注,，最后用這些標注好的素材去訓練圖片，讓機器去學習各個分類里面的特征,，不斷調整自己模型的參數(shù),，并最終得到最佳的識別模型。

當機器對圖像進行識別以后,，這些圖像數(shù)據(jù)會轉化為數(shù)字化的信息,，帶入到模型里面進行計算，根據(jù)計算值將圖片標注為“正常,、性感,、色情”三個類別。如果在人工復核環(huán)節(jié)發(fā)現(xiàn)機器識別有誤,，則會有針對性地對相同場景的圖片進行數(shù)據(jù)學習,，并調整參數(shù)，直到錯誤率達到最低值,。

AI鑒黃師如何培育起來的,？

早在2014年圖普科技就開始利用AI來識別靜態(tài)圖像里的色情元素，但是早期的素材收集工作卻困難重重,?！肮緞偝闪r，一天起碼有六個小時都在搜集數(shù)據(jù),，簡單說,，就是看黃圖、黃片，然后把它們扔到數(shù)據(jù)庫中,。一開始我們只能依靠自身力量搜集素材,，每天都在號召親友宅男貢獻出自己收藏的資源,，但是來源比較單調,，主要是大陸和島國片為主。收集的關鍵全靠尋找‘對的人’,，只要找對了人,，方能以一敵百。直到后來有了客戶提供的海量數(shù)據(jù)才算真正走向正軌,。只有數(shù)據(jù)覆蓋場景越全面,，模型才能越精準?！?/p>

相比語音識別和圖像識別,，不良信息在語義方面的識別則發(fā)展略晚。相比之下,，它卻更能夠捕捉語言間細微的,、不易被察覺的“軟色情”信號，而中文也是語義識別領域最難做的語言,。專注于AI語義識別的三角獸科技公司技術總監(jiān)亓超告訴《環(huán)球時報》記者,，該公司目前在語義方面的“鑒黃”主要體現(xiàn)在人工智能交互系統(tǒng)當中，也就是常見的“人機對話”,。

▲2018年8月3日,，北京，油庫公司,，29歲的吉恒杉是一名人工智能標注員,，他正在訓練機器識別何為“接吻”鏡頭，因此也被戲稱為“吻戲鑒定師”,。圖片：VCG

通俗點講,，當你有意想要“調戲”AI的時候，它首先會識別你的輕佻言論,，其次能夠迅速捕捉言語間的“雷點”,，并在毫秒內做出反應和判斷，以巧妙的方式規(guī)避開你的“調戲”。對于一些低俗,、污穢的詞句,，在人機對話中也會被自動屏蔽掉。

在最初的大數(shù)據(jù)學習階段,，AI需要學習“正反語料”素材,，反語料通常包括網(wǎng)絡上搜集來的不雅詞匯或污言穢語等。有趣的是,，一些網(wǎng)絡新詞更迭速度過快反而成了程序員們當下最棘手的難題,，“有些詞昨天聽著還很正常，今天就變成了敏感詞匯,，比如2017年熱炒的的‘黃鱔女’,，出事之后，我們還不能對黃鱔這個詞一刀切地屏蔽,，因為可能會傷害其本來意義,，但還得讓機器聰明地判斷出這個詞出現(xiàn)的場景和語義。這就要求我們的技術不斷更迭,。

亓超表示,，在數(shù)據(jù)搜集難題上，他也期待未來能夠和有關政府部門合作,，以便收集到更多的原始素材來提高機器快速學習的能力,。

由于擔心兒童成為網(wǎng)絡黃色暴力主要的受害群體，三角獸在其“兒童聊天引擎”的設計中也更加謹慎處理對內容的把控,，使其內容不良率降低到萬分之零點六,。亓超告訴記者，在兒童應用設備中他們會屏蔽過濾掉如戀愛,、結婚,、懷孕等成人可接受，但不適合兒童接觸的用語,，為兒童營造一個安全和健康的聊天環(huán)境,。

AI鑒黃的準確度和效率如何？

阿里巴巴安全部高級算法工程師威視對《環(huán)球時報》記者表示：AI鑒黃師每天可審核數(shù)億張圖片,，識別準確率高于99.5%,。

“舉個例子，一天要審核4億張圖片的話,，單純由人工來審,，一人一天審1萬張，需要4萬人,，而AI鑒黃只需將其中20萬張可疑的圖片篩出來,，由人工再審一道,，只需要20人即可?！?/p>

圖普科技姜澤榮告訴記者,，AI完成鑒別分類后，只會把判斷結果和概率告訴使用方,，使用方再根據(jù)結果做對應處理,，比如自動刪除、或者人工接入復審,。

AI上崗后,，人工鑒黃師都會下崗嗎,？

作為早期的人工鑒黃標注師,，姜澤榮坦言人工鑒黃師其實是一個枯燥的體力活，就像“流水線上的工人,，遲早會被機器替代,。AI的出現(xiàn)讓人類把這個體力活外包出去，然后投身到更有意義的工作中去,?！?/p>

不少帖子已經(jīng)爆料過，由于近幾年信息量的暴增和審核的嚴控,，人工鑒黃師加班已經(jīng)常態(tài)化,。媒體曾經(jīng)報道過有鑒黃師因為壓力過大身體吃不消而向公司提出工傷索賠的新聞。

“剛開始接觸大量的小黃圖,，確實會有生理反應,，尤其是對一些心理素質不夠好的年輕鑒黃師來說?！苯獫蓸s說,。

一位有類似經(jīng)歷的鑒黃師也對記者表示，頻繁曝光在黃色信息的網(wǎng)絡中難免會對身體造成傷害,，偶爾遇到一些比較變態(tài)的視頻或圖片,，“會讓人一整天都吃不下飯”。嚴重的時候,，在路上看人都是馬賽克,。但AI鑒黃的免疫力就會強得多。

不過,，姜澤榮和威視都表示,，AI鑒黃尚不能完全取代人工審核，因為機器還很難理解內容背后的深意,，也不會在不同文化場景中做自由切換,。

“最佳的審核方式是智能為主，人工為輔。人工鑒黃師群體數(shù)量少了,，目前主要做打標和審查可疑圖片的工作,。”阿里安全部產品專家念夏說,。

色情和非色情的界限怎么把握,？

無論是語音語義還是圖像，在初期設計模型時會根據(jù)大眾普遍接受程度來人為制訂一套“色情界定的標準”,。人為的標準并非一成不變,，但也存在一定的主觀性。

“三點式泳裝則為性感,，裸露胸部卻只遮擋乳頭則是色情,，而‘以性感的姿勢舔舐香蕉’這種‘軟色情’則會被機器劃定為‘正常’”,，姜澤榮舉例說明,。

當被問道如何區(qū)分“性感”與“色情”，他認為在制定標準時有一條默認規(guī)則——極端性感即是色情,。

▲2018年8月15日,，北京，優(yōu)酷公司舉辦“吻戲鑒定師”招聘面試,，從上百份簡歷中篩選出來的四位候選人進入面試環(huán)節(jié),，回答關于人工智能的技術問題，還要對著屏幕分辨上百張明星臉,。圖片：IC

姜澤榮介紹,，在早前設計模型的時候，著名的“大衛(wèi)”雕像就因其某些部位雕刻得太過于‘寫實逼真’而被標定為“色情”,。但是隨著人們對開放性文化接受程度的擴大,，機器通常會對“有裸體出現(xiàn)”的藝術作品溫柔處理，或視情況酌情考慮,，但不包括那些“明顯在傳播色情文化”的藝術作品,，例如春宮圖等。

得知AI鑒黃師上線的消息以后,，有些人擔心AI過于刻板的標準會對原本可以被“僥幸放行”的內容也一刀切地砍掉,。有人認為,，色情文化是人類的剛需，但AI無疑是將“人性的出口牢牢堵住,?！?/p>

對此，姜澤榮并不認同,。他認為,，在我國尚未出現(xiàn)“分級制度”的情況下，更應該對黃色信息嚴格把控,，“閾值要盡量調高,，寧可錯殺，不可錯放”,，以防止色情信息對未成年人的傷害,。他希望家庭和學校的性教育可以不斷完善，家長能對孩子的性需求有更科學的引導,。

在我國AI智能產業(yè)強勁發(fā)展的今天,，AI勢必會以更高效的節(jié)奏做好網(wǎng)絡安全摸查的排頭兵,，我們期待AI鑒黃師能為祖國打好未來每一場掃黃攻堅的保衛(wèi)戰(zhàn),。