關(guān)于自動決策的 GDPR 也需要防范根據(jù)種族、意見、健康狀況等產(chǎn)生的歧視。但是使用用戶生成的數(shù)據(jù)（如社交媒體和新聞，不指真實的數(shù)據(jù)，如醫(yī)療或財政記錄）訓練的深度學習模型通常暗含邪惡的偏見。如前所述，深度學習可以讀取大量文本和數(shù)據(jù)，并模仿其內(nèi)容，但無法理解內(nèi)容。深度學習只相信它在數(shù)據(jù)中頻繁看到的事物、底層模式和趨勢，因此它會放大人類社會的偏見和問題。數(shù)據(jù)顯示被逮捕的黑人比白人多，那么一旦有人犯罪，深度學習將首先懷疑黑人；數(shù)據(jù)顯示公司董事會董事中男性比例高于女性，則深度學習將在招聘中更傾向于男性應聘者。
深度學習決策會比訓練數(shù)據(jù)的平均樣本包含更深刻的偏見，如種族歧視、性別歧視。這個問題在所有的機器學習算法中都有發(fā)生，但是深度學習模型是其中最難測試、檢測、控制和調(diào)整的。這個問題很難解決，這引起很多深度學習實驗突然取消，從聊天機器人變得納粹化、充滿仇恨，到美圖軟件中給黑人照片美白。
深度學習是一個神經(jīng)網(wǎng)絡，你無法單獨編輯每個答案的輸出結(jié)果。
你無法通過在訓練之后添加補丁，來修復一個帶有偏見、種族和性別歧視的深度學習模型。深度學習是一個神經(jīng)網(wǎng)絡，與其他 AI 方法不同，你無法編輯某個答案，而是必須使用全新的、完全公正的、稀有的數(shù)據(jù)對該網(wǎng)絡進行重新訓練。深度學習可以在不理解的情況下模仿數(shù)據(jù)中的內(nèi)容：它不會否定任何數(shù)據(jù)，不會發(fā)現(xiàn)社會上的偏見，而只是「學習所有數(shù)據(jù)」。你應該雇傭一個人類員工，專門創(chuàng)建假的完美、公正的數(shù)據(jù)。但是，由人類專家編輯創(chuàng)建海量無偏見數(shù)據(jù)的成本僅為了訓練深度學習模型，又怎么可以說用 AI 取代人類呢！此外，即使你已經(jīng)訓練出真正公正的深度學習模型，你也無法向法官或用戶證明其決策的公正性，因為它無法提供解釋。
深度學習的重要性應該降低，用于沒有法律風險的非商業(yè) app 或游戲。當可解釋的 AI 變得流行，深度學習將會像磁帶一樣被拋棄。在游戲中輸給機器人的人類不太可能說服法官對 AI 公司罰款，因為你無法解釋 AI 是怎么贏的。不滿 FaceApp 把自己的自拍照修的更老、更年輕，或者換了性別的人也不太可能說服法官對 FaceApp 罰款，因為你無法解釋 AI 是如何決定新面孔的。在醫(yī)療圖像中進行疾病檢測是一項安全的深度學習應用，前提是用戶在服藥之前先向人類醫(yī)生尋求確認。
合法的深度學習市場非常有限：在決策結(jié)果造成財政、健康上的區(qū)別，或者存在歧視性，而深度學習無法理解決策是否公正以及為什么公正的時候，法官可以處罰。那么自動駕駛呢？似乎在藝術(shù)、游戲或高級幽默以外的領(lǐng)域使用深度學習都有法律風險?，F(xiàn)有的非深度學習方法可以取代深度學習，新方法也會被（重新）發(fā)現(xiàn)，因此 AI 的發(fā)展將會順利進行。尤其是每個人研究（并投資）AI 和機器學習科學領(lǐng)域中的所有新舊算法，而不只是深度學習：這也是成為「人工智能專家」的唯一路徑。
深度學習除了正在「非法」用于很多可解任務以外，它也不能被用于解決以下一系列問題：那些需要抽象推理來找出數(shù)據(jù)中哪些是公平，哪些是不公平的任務，那些需要解釋其中的邏輯，并自行作出決定的任務。即使對于那些不需要解釋的任務來說，深度學習看起來是最好的系統(tǒng)（如圖像識別），但是也不如人類自己那樣具有穩(wěn)定性。你可以輕而易舉地使用對抗樣本來讓深度學習系統(tǒng)出錯：為一張貓的圖片加入一些特殊的噪點，機器就會把它誤認為其他不相關(guān)的東西，而人類絕不會犯錯。如果街邊的路牌被對抗樣本黑掉了，現(xiàn)在的自動駕駛汽車將不再安全。新一代的人工智能系統(tǒng)必須克服這個問題——它也將取代深度學習。
著名深度學習庫 Keras 作者 François Chollet 曾在一篇名為《深度學習的限制》的文章中說到：「深度學習唯一真正能成功做到的是使用幾何變換，在給定大量人類標注數(shù)據(jù)的情況下將空間 X 映射到空間 Y 的能力。」這些空間擁有多維，不僅僅是三維的，這就是深度學習可以模仿畢加索風格作畫、在德州撲克中 Bluff，以及在其他一些方面里展示創(chuàng)造力的原因。但是對于外行人來說，這也許意味著：深度學習模型可以被訓練成擁有識別貓的能力，但本身不知道什么是貓；可以是一個種族主義者，但不知道什么是種族主義。深度學習可以識別貓、具有種族主義，并贏得很多游戲，這看起來是令人矚目的進步，但深度學習無法解釋為什么圖中的動物是貓，也無法定義種族主義。