這些例子說(shuō)明了識(shí)別個(gè)體不知情動(dòng)機(jī)的影響,，并且展示了知識(shí)和無(wú)知的問(wèn)題可以有多復(fù)雜，特別是在涉及人工智能的時(shí)候,。關(guān)于集體不知情在什么時(shí)候有益處,，或者在道德上合理的問(wèn)題,，沒(méi)有現(xiàn)成的答案,。理想的做法是單獨(dú)考慮每個(gè)案例,，進(jìn)行風(fēng)險(xiǎn)收益分析。理想情況下,，鑒于爭(zhēng)論的復(fù)雜性和后果的重要性,，這一分析將公開(kāi)進(jìn)行，考慮各種利益相關(guān)者和專(zhuān)家意見(jiàn),，并考慮所有可能的未來(lái)結(jié)果，包括最壞的情況,。

這其中涉及的問(wèn)題太多了……事實(shí)上,，理想做法在大多數(shù)情況下都是行不通的。那么，我們又該如何做呢,？

一種方法是控制和限制機(jī)器根據(jù)已采集數(shù)據(jù)進(jìn)行的推理,。例如，我們可以“禁止”使用種族作為預(yù)測(cè)變量的司法算法,，或者從潛在求職者的預(yù)測(cè)分析中排除性別,。但是，這種方法也存在問(wèn)題,。

首先,，限制大公司使用信息的成本太高，技術(shù)難度也很大,。這需要這些公司將算法開(kāi)源,，同時(shí)要求大型政府機(jī)構(gòu)不斷對(duì)其審查。另一方面,，一旦采集到大量的數(shù)據(jù)集,，總是會(huì)有很多迂回的方法來(lái)推理出“禁止的知識(shí)”。假設(shè)政府宣布使用性別信息來(lái)預(yù)測(cè)學(xué)術(shù)成功是非法的,，那就可能出現(xiàn)使用“擁有汽車(chē)類(lèi)型”和“最喜歡的音樂(lè)流派”作為性別替代指標(biāo),，直接進(jìn)行替代指標(biāo)的二級(jí)推理。有時(shí)候,，盡管一家公司的意圖是好的,，但有關(guān)性別的推理也可能意外地嵌入到算法中。這些二級(jí)推理導(dǎo)致對(duì)算法的審查更加困難,。一個(gè)分析中包含的變量越多,，發(fā)生二級(jí)推理的可能性就越大。