淫穢視頻,、黃色圖片,、色情游戲,這些在互聯(lián)網(wǎng)上滋生蔓延的網(wǎng)絡(luò)黃毒,,污染了網(wǎng)絡(luò)環(huán)境,,也嚴(yán)重侵害著未成年人的身心健康。央視《身邊的網(wǎng)絡(luò)正能量》帶您認(rèn)識(shí)一個(gè)在網(wǎng)上掃黃的特殊群體——鑒黃師,。
今年2月,,一段女主播在網(wǎng)絡(luò)直播中挑逗未成年人的視頻,在互聯(lián)網(wǎng)上被大量轉(zhuǎn)發(fā),。
在這段長達(dá)4分鐘的直播視頻中,,衣著暴露的女主播不斷誘惑挑逗這名9歲的小學(xué)生,多家網(wǎng)站將這段影像惡意轉(zhuǎn)發(fā),,有的還以“女主播教9歲男孩如何調(diào)戲”為標(biāo)題,,吸引網(wǎng)友點(diǎn)擊瀏覽。
互聯(lián)網(wǎng)安全志愿者聯(lián)盟成員李若冰:這樣的事件每天在互聯(lián)網(wǎng)上發(fā)生大大小小都有很多,其實(shí)我們是比較痛心的,。我們需要加快步伐,,進(jìn)一步完善我們的工作。
發(fā)現(xiàn)并清除網(wǎng)絡(luò)上的黃毒,,這是李若冰和他的“互聯(lián)網(wǎng)安全志愿者聯(lián)盟”的目標(biāo)之一,。最初,他們的做法是在普通圖片里尋找色情圖片,,但很快就發(fā)現(xiàn),,僅僅一個(gè)大型電商平臺(tái)每天就有10億量級(jí)的商品圖片供瀏覽,面對互聯(lián)網(wǎng)的海量信息,,單純靠人工搜索,,不但費(fèi)時(shí)費(fèi)力,而且效果也不理想,。
李若冰:我們希望在有黃色信息被發(fā)布時(shí),,能夠第一時(shí)間識(shí)別且攔截,而不是在它傳播一定量以后,,發(fā)現(xiàn)它,、進(jìn)行刪除。所以我們需要數(shù)據(jù)算法的模型來攻克這一難題,。
經(jīng)過多年積累,,聯(lián)盟擁有了海量的圖庫,模型可以通過以圖比圖的方式進(jìn)行智能抓取,,然而,,由于對色情的鑒定標(biāo)準(zhǔn)并不是非黑即白,因此在“黃色”還是“非黃色”的判斷上,,機(jī)器還是會(huì)犯錯(cuò),。這時(shí)候就需要鑒黃師的介入。
2013年,,聯(lián)盟找到中國殘聯(lián),。培養(yǎng)一支穩(wěn)定的安全領(lǐng)域?qū)I(yè)志愿者團(tuán)隊(duì),同時(shí)給殘疾人提供一個(gè)自我實(shí)現(xiàn)的平臺(tái),,兩個(gè)組織一拍即合。
34歲的趙凱,,是這個(gè)特殊團(tuán)隊(duì)中的特殊一員,。由于出生時(shí)患有先天性小兒腦癱,趙凱至今行動(dòng)不便,,也留下了嚴(yán)重的語言表達(dá)障礙,。我們和趙凱商量,讓他主要用打字的方式來接受采訪。
記者:你有沒有大概算過,,你一共鑒定過多少張圖片,?
互聯(lián)網(wǎng)安全志愿者聯(lián)盟鑒黃師趙凱:就是按照現(xiàn)在一天五千張的任務(wù)量,大概就審核了540萬左右的圖片了,。但實(shí)際做的肯定不止,。
為了訓(xùn)練機(jī)器算法逐漸擁有人的思維模式,從而提高甄別圖片的精準(zhǔn)度,,聯(lián)盟的鑒黃師志愿者連續(xù)三年多做著同一件事情,,就是對圖片進(jìn)行審核分類,用他們的行話說叫“打標(biāo)”,。
趙凱:最難的在于低俗和性感吧,,相差就在于一線之間。過了這個(gè)界,,它就是低俗,;不過這個(gè)界,就是性感,。只能靠長期的大量的工作實(shí)踐來累積經(jīng)驗(yàn),。
趙凱的團(tuán)隊(duì)現(xiàn)在每天每人要審核圖片5000張左右,一個(gè)熟練的鑒黃師也得5個(gè)小時(shí)才能完成,。志愿工作不能作為收入來源,,他們中的絕大多數(shù)人白天還要上班,晚上才能鑒黃,,午夜收工是常有的事,。
趙凱:我們做滿5個(gè)小時(shí)以后,基本再?zèng)]有任何的私人時(shí)間和空間去做自己的事情,,而且我們是全年無休,。長時(shí)間坐在電腦面前,會(huì)比較累,,包括眼睛,,包括腰、腿都非常不舒服,。
鑒黃師的壓力主要是精神上的,,每天面對滿屏的黃圖,趙凱也適應(yīng)了很久,。明明是在做好事卻要跟做賊一樣躲躲藏藏,,這讓趙凱十分憋屈。
趙凱:一開始肯定會(huì)有不習(xí)慣吧,,打開系統(tǒng)看見那么多色情圖片,,腦子里第一反應(yīng)就是去關(guān)門?,F(xiàn)在我盡量把工作時(shí)間放到深夜,尷尬倒是避免了,,可隨之而來的是壓抑,。其實(shí)每天審核那么多圖片,我已經(jīng)沒有任何心思在內(nèi)容上了,,腦子里純粹是機(jī)械化地按標(biāo)準(zhǔn)選擇答案,。
參與鑒黃工作的第二年,由于業(yè)務(wù)能力突出,,聯(lián)盟決定讓趙凱來帶整支鑒黃師的團(tuán)隊(duì),。而就在這個(gè)時(shí)候,趙凱的妻子懷孕了,。
趙凱妻子:看到這么多那種圖片,,特別是作為一個(gè)女人,很反感很反感,。懷寶寶的時(shí)候,,我要上班,他10-12小時(shí)這樣做,,也爭吵,。主要還是他父母對我們的照顧,,沒有他父母的話,,我們也熬不過來。
對于殘疾人而言,,養(yǎng)兒育女的過程比常人更加艱辛,,也正因?yàn)槿绱?,趙凱和妻子比任何人更渴望孩子能健康成長。最終,,這份工作的意義和趙凱認(rèn)真負(fù)責(zé)的勁頭打動(dòng)了妻子。而家人的理解更給了趙凱堅(jiān)持下去的信心,。
趙凱:我非常愛我的女兒,,作為父親,我有責(zé)任和義務(wù)去保護(hù)她,。每次審圖累了,,我都會(huì)去看看她,讓自己更有動(dòng)力為她去營造一個(gè)干凈的網(wǎng)絡(luò)環(huán)境,。任何困難和下一代的健康成長比起來,,都微不足道了。
鑒黃師團(tuán)隊(duì)里的很多志愿者也都為人父母,,他們和趙凱有著相同的想法,。但鑒黃工作不僅辛苦,而且枯燥,,對于殘疾人來說更為不易,。三年當(dāng)中,不少人動(dòng)搖過,,但最終,,大多數(shù)人還是堅(jiān)持了下來。上肢殘疾的鄭春霞就是其中之一,。
互聯(lián)網(wǎng)安全志愿者聯(lián)盟鑒黃師鄭春霞:每天晚上我基本都會(huì)做到深夜,,有時(shí)候我?guī)缀鯃?jiān)持不下去了,是趙凱鼓勵(lì)我,。我們團(tuán)隊(duì)里還有比我更加付出的,,我記得有一個(gè)同學(xué),兩個(gè)手掌沒有的,,他是用手臂敲鍵盤,,他也在堅(jiān)持這份工作,我沒有理由放棄,。
如今,,聯(lián)盟300多名鑒黃師志愿者已經(jīng)累計(jì)審核模型圖片兩億五千多張。在他們的努力下,,模型算法的精準(zhǔn)率提高超過20%,,目前已在多個(gè)互聯(lián)網(wǎng)平臺(tái)投入使用,成為阻擊網(wǎng)絡(luò)色情的一道屏障,。
而對趙凱來說,,這意味著憑借自己的努力,讓女兒和千千萬萬的孩子將來放心上網(wǎng)的夢想,,越來越近了,。
互聯(lián)網(wǎng)安全志愿者聯(lián)盟鑒黃師趙凱:如果有一天網(wǎng)絡(luò)鑒黃不需要人工審核了,我一定會(huì)尋找并參與其它的志愿者工作,。我相信只要網(wǎng)絡(luò)上還存在違法和不良信息,,就一定會(huì)有需要我的地方。