一般數據保護條例(GDPR)對數據科學產生了很大的影響。現在GDPR有99條正文條款和173篇聲明(Recital)，長而復雜，但是隨著時間的推移以及條款的執行，它可能會變得更加復雜。同時，由于GDPR的存在，律師和隱私工程師將成為未來大型數據科學項目的核心組成部分。

1.GDPR是否禁止機器學習?

總的來說，在GDPR生效后，ML不會在歐盟被禁止。

但是，從技術的角度來看，這個問題的答案是肯定的。GDPR作為法律條文，確實做出了對使用自動化決策的全面禁止的規定。當GDPR使用“自動化決策”這個術語時，該法規指的是任何模型都可以在沒有人直接參與決策的情況下做出決定。這可能包括數據主體的自動“概要分析”，例如將其分類為“潛在客戶”或“40-50歲男性”等特定組，以確定貸款申請人是否有資格獲得貸款。

因此，GDPR對ML模型的產生的影響是在沒有人直接參與決策制定的情況下，它們是否可以自動部署。如果可以自動部署，那么在大量的ML模型中這種自動部署的設置將會被默認禁止。盡管有許多律師或數據科學家確實反對過，但參與起草和解釋GDPR的歐盟官方工作組還是堅持該項規定。

當然，GDPR禁止ML也有例外情況。簡單來說，該法規確定了使用自主決策合法的三個領域：合同處理的必要性，其他法律另行授權的情況，或數據主體明確同意的情況。

但是，讓用戶同意并不容易，用戶可以同意許多不同類型的數據處理，并且他們也可以在任何時候撤銷同意，這意味著用戶同意需要細化和進一步的規范。

那么，GDPR是否真的禁止使用ML模型？當然不是，但在許多應用ML的例子中，它使得這些模型及其輸入數據的部署和管理變得越來越困難。

2. ML有沒有“解釋權”

作者去年寫了一篇專門討論這個問題的文章。潛在的解釋能力的存在可能會對數據科學產生巨大的影響，因為ML模型的預測能力很大程度上很難解釋，即使有可能，也很難解釋。

在GDPR的第13-15條中反復聲明，數據主體有權獲得“有關所涉邏輯的有意義的信息”以及自動決策的“重要性和設想的后果”。然后，在GDPR的第22條中規定，數據主體有權利不受上述影響類型的影響。最后，作為該條例中包含的一項非約束性評論的一部分，第71條聲明(Recital)表示，數據主體除了能夠對這些決定提出質疑之外，還有權對自動決策做出解釋。綜上所述，這三項規定在數據主體和處理數據的模型之間創建了許多新的復雜的義務，這表明了一種相當強大的可解釋性權利。

雖然理論上，歐盟監管機構可以以最嚴格的方式解釋這些條款，但是現實中要想實現充分合理解釋似乎是不可能的。歐盟監管機構甚至可以將這些條款解讀為，當ML被用于在沒有人為干預的情況下做出決定時，以及當這些決定對數據主體產生重大影響時，這些人有權獲得關于正在發生的事情的一些基本形式的信息。在GDPR中被稱為“有意義的信息”和“設想的后果”可能會在此背景下被讀出。歐盟監管機構可能會將注意力集中在一個數據主體上，該數據主體基于有關模型的信息和其部署的上下文的相關信息，對數據的使用做出明智的決定。

3. 數據主體是否有能力要求模型在沒有數據的情況下進行訓練?

作者認為在實踐中答案是否定的。在GDPR下，所有數據的使用都需要有法律依據，《條例》第6條規定了六個相應的依據。最重要的兩個是“合法利益”的基礎，以及用戶明確同意使用該數據的地方。當處理的法律基礎是后者時，數據主體將會保留對這些數據的極大控制權，也就是說，他們可以在任何時候撤銷，而處理這些數據的法律依據將不再存在。

因此，如果一個組織從一個數據主體收集數據，用戶同意將他們的數據用于訓練一個特定模型，然后數據主體隨后撤回該同意，那么用戶何時可以強制模型重新訓練新數據呢?

只有當該模型繼續使用該用戶的數據時，答案才會出現。正如GDPR的29條規定的那樣，即使撤銷同意后，撤回之前所發生的所有處理仍然合法。因此，如果這些數據被合法的用于創建模型或預測，那么這些數據所產生的任何東西都可能被保留下來。在實踐中，一旦用一組訓練數據創建了一個模型，訓練數據就可以在不影響模型的情況下被刪除或修改。

然而，從技術上講，一些研究表明，模型可能會保留關于訓練數據的信息，即使在訓練數據被刪除之后，這些信息仍然可能被發現，正如研究人員Nicolas Papernot等人所寫的那樣。這意味著，在某些情況下，在不重新訓練模型的情況下刪除數據不能保證訓練數據不會被重新發現，或者不能保證原始數據不會被繼續使用。

但是訓練數據通過模型被重新發現幾乎是不可能的。作者認為，這種重新發現只是在學術環境中進行的，與企業數據科學家的日常相差甚遠。盡管這在理論上是有可能的，但這似乎是一個邊緣案例，監管者和數據科學家只有在這種特定類型的實例變得更加現實的情況下才能解決這個問題。