另外是算法本身的影響,?！斑@可能是無法完全避免的，由深度學習算法本身的缺陷決定,，它存在內(nèi)在對抗性,。”王金橋表示,，目前最流行的神經(jīng)網(wǎng)絡不同于人腦的生物計算,，模型由數(shù)據(jù)驅(qū)動，和人類的認知不具有一致性,?；谏疃葘W習的框架，必須通過當前訓練數(shù)據(jù)擬合到目標函數(shù),。在這個框架之下,，如果機器要識別狗，它會通過狗的眼睛,、鼻子,、耳朵等局部特征進行可視化識別，而這些可視化特征卻能給想利用深度學習漏洞的人機會,，后者可以通過偽造數(shù)據(jù)來欺騙機器,。

除了人訓練機器的數(shù)據(jù)本身有偏差以外，機器通過對抗性神經(jīng)網(wǎng)絡合成的數(shù)據(jù)也可能有問題,。由于機器不可能“見過”所有東西(比如識別桌子,，機器不可能學習所有長短寬窄各異的桌子)，人也不可能標記所有數(shù)據(jù),。如果研究者輸入一個隨機的噪音,，機器可以向任何方向?qū)W習。這是一把雙刃劍,，機器也可能合成一些有問題的數(shù)據(jù),，學習時間長了，機器就“跑偏”了,。

數(shù)據(jù)的均衡或可減少“跑偏”

不少科學家以“garbage in, garbage out”來形容“數(shù)據(jù)和人工智能的關系”,。中科視拓(北京)科技有限公司CEO劉昕說：“對機器學習而言，進什么就出什么,。監(jiān)督學習就是讓模型擬合標簽,，比如訓練者把帥哥都標記成‘渣男’,，那么機器看到劉德華,，就會認為他是……”談到諾曼引發(fā)的討論，劉昕表示：“不需要擔心,，人類本身就有各種歧視和偏見,，用人類生產(chǎn)的數(shù)據(jù)訓練AI,，再批判AI不夠正直良善，這么說有點危言聳聽,?！?/p>

偏見、刻板印象,、歧視都是人類社會的痼疾,，有些流于表面，有些深入社會肌理,，無法輕易剝離,。在這樣的語境中產(chǎn)生的數(shù)據(jù)，攜帶著大量復雜,、難以界定,、泥沙俱下的觀點。如果研究者沒有意識到或著手處理這一問題,，機器學習的偏見幾乎無解,。真正的“公正算法”或許是不存在的。