智能穿戴設(shè)備吸引觀眾,。湯彥俊 攝

近日，麻省理工學(xué)院媒體實(shí)驗(yàn)室出品了一個(gè)“暗黑版AI”,，再次將人工智能的黑箱隱憂這個(gè)經(jīng)久不衰的話題送上熱門(mén),。據(jù)報(bào)道，實(shí)驗(yàn)室的三人團(tuán)隊(duì)聯(lián)手創(chuàng)造了一個(gè)叫諾曼(Norman)的人工智能,，與希區(qū)柯克經(jīng)典電影《驚魂記》中的變態(tài)旅館老板諾曼·貝茲同名,。

名如其人。諾曼會(huì)以負(fù)面想法來(lái)理解它看到的圖片,。例如,，一張?jiān)谝话鉇I看來(lái)只是“樹(shù)枝上的一群鳥(niǎo)”的普通圖片，在諾曼眼中卻是“一名男子觸電致死”,。

團(tuán)隊(duì)希望通過(guò)諾曼的表現(xiàn)提醒世人：用來(lái)教導(dǎo)或訓(xùn)練機(jī)器學(xué)習(xí)算法的數(shù)據(jù),，會(huì)對(duì)AI的行為造成顯著影響,。AI會(huì)成為什么樣，有時(shí)人類(lèi)可能束手無(wú)策,。

TA們的偏見(jiàn)就是人類(lèi)的偏見(jiàn)

諾曼們從哪來(lái),？答案首先藏在數(shù)據(jù)里。

“人工智能識(shí)別出的結(jié)果不是憑空而來(lái),，是大量訓(xùn)練的結(jié)果,。如果要訓(xùn)練AI某一方面的能力，比如下棋,，就需要收集,、清洗、標(biāo)記大量數(shù)據(jù)供機(jī)器學(xué)習(xí),。如果用于訓(xùn)練的數(shù)據(jù)不夠多,，就會(huì)造成AI學(xué)習(xí)的不充分，導(dǎo)致其識(shí)別結(jié)果的失誤,?！敝锌圃鹤詣?dòng)化研究所研究員王金橋?qū)萍既請(qǐng)?bào)記者表示。數(shù)據(jù)本身的分布特性,，如偏差甚至偏見(jiàn),，也會(huì)被機(jī)器“有樣學(xué)樣”。針對(duì)諾曼的表現(xiàn),，創(chuàng)造它的實(shí)驗(yàn)室也指出,，“當(dāng)人們談?wù)撊斯ぶ悄芩惴ù嬖谄詈筒还綍r(shí)，罪魁禍?zhǔn)淄皇撬惴ū旧?，而是帶有偏差,、偏?jiàn)的數(shù)據(jù)。因?yàn)楫?dāng)前的深度學(xué)習(xí)方法依賴(lài)大量的訓(xùn)練樣本,，網(wǎng)絡(luò)識(shí)別的特性是由樣本本身的特性所決定,。盡管在訓(xùn)練模型時(shí)使用同樣的方法，但使用了錯(cuò)誤或正確的數(shù)據(jù)集,，就會(huì)在圖像中看到非常不一樣的東西”,。