據(jù)有關媒體報道,，在谷歌研究自然語言處理的科學家 Daphne Luong 表示，正確地校準標簽對機器學習來說非常關鍵,，有些數(shù)據(jù)集其實并不平衡,，像維基百科上的數(shù)據(jù),，“他”(He)出現(xiàn)的次數(shù)遠比“她”(She)要多,。

王金橋也著重強調了“數(shù)據(jù)的均衡”,。就算對人來說，不同人秉持著不同的價值觀,，但多聽多看多受教育可以讓人向良好的方向改進。機器學習也是如此,?！坝柧殭C器時，要注重數(shù)據(jù)的均衡，給它更多可靠的數(shù)據(jù),。研究團隊成員具有多元的學術背景(如吸納更多社會學,、心理學等領域學者加入)、性別,、年齡、價值觀,，也可以幫助機器學習更加均衡,，減少機器出現(xiàn)偏見、謬誤甚至失控的可能,?！蓖踅饦蛘f。

“機器學習的模型本身也要有一定的防攻擊能力,，從技術上防止本身結構設計的漏洞被攻擊,，研究者可以使用各種數(shù)據(jù)攻擊機器，訓練機器的反攻擊能力,?！蓖踅饦蛘f。

作惡還是向善,，是人類的選擇

1942年,，阿西莫夫在短篇小說《環(huán)舞》中首次提出著名的機器人三定律：機器人不得傷害人類，或因不作為使人類受到傷害,；除非違背第一定律,，機器人必須服從人類的命令；除非違背第一及第二定律,，機器人必須保護自己,。半個多世紀過去，人工智能在大數(shù)據(jù)的加持下迎來爆發(fā)式發(fā)展,。某些專用型人工智能把人類智能甩在身后,，人們開始擔憂，機器傷害人類的那一天是不是不遠了,。

因此有一種看法很主流——人類訓練有意識,、有自我覺知的人工智能是不明智的。開個腦洞,，機器一旦發(fā)展出自我意識,，要反向攻擊人類，場面或許失控,。

前段時間,，據(jù)路透社報道,，韓國科學技術院的人工智能研發(fā)中心正在研發(fā)適用于作戰(zhàn)指揮、目標追蹤和無人水下交通等領域的人工智能技術,，希望在今年年底前研發(fā)出基于人工智能的導彈,、潛艇和四軸飛行器。此事引發(fā)學術界的巨大震動,，抗議紛至沓來,，并最終以院長保證無意于“殺手機器人”的研發(fā)并重申人類尊嚴和倫理收場。在美國,，以“不作惡”為綱的谷歌也因與國防部的合作協(xié)議涉及“Maven項目”被推上風口浪尖,，反對者普遍認為，識別結果完全有可能被用于軍事用途,，比如說精準打擊,。谷歌最終表示終結協(xié)議。

相較于輿論環(huán)境的憂心忡忡,，研究者對“技術向善”普遍樂觀,。他們認為把AI和“殺人機器”聯(lián)系在一起，近乎“捧殺”,，夸大AI能力之余,，也引發(fā)不明真相的公眾恐慌，無益于人工智能的發(fā)展環(huán)境,。

“很多人提到AI總是一驚一乍,，把AI說成超人。我相信人工智能是能解決問題的,，但大家的期待也要在合理范圍內,。人和機器各有優(yōu)勢，技術會服務于特定場景,，但也不需要把AI捧上天,。”接受科技日報記者采訪時,，思必馳北京研發(fā)院院長初敏博士忍不住“抱怨”了一下,。看來“我們需要怎樣的AI”這一題,，大家都還沒有答案,。