另外是算法本身的影響,。“這可能是無法完全避免的,，由深度學(xué)習(xí)算法本身的缺陷決定,，它存在內(nèi)在對抗性,。”王金橋表示,，目前最流行的神經(jīng)網(wǎng)絡(luò)不同于人腦的生物計(jì)算,，模型由數(shù)據(jù)驅(qū)動，和人類的認(rèn)知不具有一致性,?；谏疃葘W(xué)習(xí)的框架，必須通過當(dāng)前訓(xùn)練數(shù)據(jù)擬合到目標(biāo)函數(shù),。在這個(gè)框架之下,，如果機(jī)器要識別狗，它會通過狗的眼睛,、鼻子,、耳朵等局部特征進(jìn)行可視化識別，而這些可視化特征卻能給想利用深度學(xué)習(xí)漏洞的人機(jī)會,，后者可以通過偽造數(shù)據(jù)來欺騙機(jī)器,。

除了人訓(xùn)練機(jī)器的數(shù)據(jù)本身有偏差以外，機(jī)器通過對抗性神經(jīng)網(wǎng)絡(luò)合成的數(shù)據(jù)也可能有問題,。由于機(jī)器不可能“見過”所有東西(比如識別桌子,，機(jī)器不可能學(xué)習(xí)所有長短寬窄各異的桌子)，人也不可能標(biāo)記所有數(shù)據(jù)。如果研究者輸入一個(gè)隨機(jī)的噪音,，機(jī)器可以向任何方向?qū)W習(xí),。這是一把雙刃劍，機(jī)器也可能合成一些有問題的數(shù)據(jù),，學(xué)習(xí)時(shí)間長了,，機(jī)器就“跑偏”了。

數(shù)據(jù)的均衡或可減少“跑偏”

不少科學(xué)家以“garbage in, garbage out”來形容“數(shù)據(jù)和人工智能的關(guān)系”,。中科視拓(北京)科技有限公司CEO劉昕說：“對機(jī)器學(xué)習(xí)而言,，進(jìn)什么就出什么。監(jiān)督學(xué)習(xí)就是讓模型擬合標(biāo)簽,，比如訓(xùn)練者把帥哥都標(biāo)記成‘渣男’,，那么機(jī)器看到劉德華，就會認(rèn)為他是……”談到諾曼引發(fā)的討論,，劉昕表示：“不需要擔(dān)心,，人類本身就有各種歧視和偏見，用人類生產(chǎn)的數(shù)據(jù)訓(xùn)練AI,，再批判AI不夠正直良善,，這么說有點(diǎn)危言聳聽?！?/p>

偏見,、刻板印象、歧視都是人類社會的痼疾,，有些流于表面,，有些深入社會肌理，無法輕易剝離,。在這樣的語境中產(chǎn)生的數(shù)據(jù),，攜帶著大量復(fù)雜、難以界定,、泥沙俱下的觀點(diǎn),。如果研究者沒有意識到或著手處理這一問題，機(jī)器學(xué)習(xí)的偏見幾乎無解,。真正的“公正算法”或許是不存在的,。