數(shù)據(jù)時代，拿什么來保護我們的隱私？丨數(shù)據(jù)政治
劉志毅
在眾多近期關(guān)于數(shù)據(jù)隱私保護引發(fā)的討論中，甚少見到關(guān)于數(shù)據(jù)隱私保護的基本邏輯的底層討論，更多的是關(guān)于“數(shù)據(jù)隱私”的重要性和對于數(shù)據(jù)濫用危險性的擔憂。因此，大多數(shù)討論都停留于公共議題的喧嘩之聲和對于科技倫理的表面討論。
事實上，這個議題背后涉及了兩個根本性問題：第一，是數(shù)據(jù)價值在整個智能時代作為生產(chǎn)要素的實質(zhì)，即通過數(shù)據(jù)挖掘以后的數(shù)據(jù)是如何使用的，以及如何作為新的知識產(chǎn)生的范式是如何對現(xiàn)實世界產(chǎn)生影響的。第二，現(xiàn)存的數(shù)據(jù)隱私保護的理念的核心目的是什么，以及怎么認識數(shù)據(jù)背后技術(shù)與人之間的關(guān)系？
須知，我們現(xiàn)在的擔憂在20世紀八十年代的歐洲學(xué)術(shù)界就有相關(guān)討論，經(jīng)歷那么多年時間后關(guān)于這方面的討論，早已不是停留在數(shù)據(jù)安全和基礎(chǔ)倫理的層面，很遺憾的是我們對此知之甚少。本文就試圖從數(shù)據(jù)隱私保護背后的基本邏輯和認知論層面的挑戰(zhàn)進行討論。
不打擾的權(quán)利
關(guān)于數(shù)據(jù)隱私與安全的保護研究很多，但討論其實質(zhì)，包括對個人權(quán)利和自由的侵犯，自動化決策算法帶來不平等的政治經(jīng)濟學(xué)主張，以及相關(guān)文件中包含的機器對人類進行控制和影響的相關(guān)內(nèi)容并不多。
實際上早在1890年，美國人沃倫和布蘭代斯就指出了隱私權(quán)的問題，認為新的發(fā)明和商業(yè)手段引發(fā)了風險，人們需要采取措施保障人格權(quán)，即“不打擾”的權(quán)利，認為“我們的法律是否在方方面面承認并保護隱私權(quán)，這一定會迅速成為法庭將要考慮的問題”。
2006年，歐文·舍米林斯基明確指出要重新審視布蘭代斯的隱私權(quán)，認為應(yīng)該進一步設(shè)定關(guān)于深挖個人信息的法律責任。而隱私權(quán)的出現(xiàn)則正在改變?nèi)?技術(shù)與世界的關(guān)系，帶來了新的視角?？梢哉J為，人通過技術(shù)與世界關(guān)聯(lián)產(chǎn)生了對人類世界新的詮釋，而數(shù)據(jù)隱私權(quán)試圖對這種詮釋的范疇進行重新定義。
我們今天討論的所有相關(guān)文件都可以從這個角度去入手，即數(shù)據(jù)隱私是可以看作成一種試圖將解釋世界權(quán)利的方式和權(quán)利回歸到個體還是給到機構(gòu)（商業(yè)組織、政府或者國家）的選擇，而不只是停留在個人權(quán)利的被侵犯層面，個體權(quán)利需要通過數(shù)據(jù)權(quán)利的實現(xiàn)得到延伸而非剝奪，社會的公平正義可以通過數(shù)據(jù)權(quán)利得到延伸而非放大歧視或者偏見，這是我們的立足點。
討論數(shù)據(jù)隱私保護相關(guān)的議題，《通用數(shù)據(jù)隱私保護條例》（GDPR,GeneralDataPro－tectionRegulation）是必須關(guān)注到的文件。這份文件在2016年4月通過，在2018年5月25日生效。事實上，這份文件是在《數(shù)據(jù)隱私保護指令》（DataProtectionDirective）文件的基礎(chǔ)上生成的，后者是1995年通過的歐洲聯(lián)盟指令，用于規(guī)范歐盟范圍內(nèi)處理個人數(shù)據(jù)的行為，是歐盟隱私法和人權(quán)法的重要組成部分。
先看《數(shù)據(jù)隱私保護指令》這份文件，在歐盟《數(shù)據(jù)隱私保護指令》中第15條是非常特殊的，它賦予了自然人一項有條件的權(quán)利，認為自然人可以不受到基于自動化分析生成的決策的影響，因此要求自動化的決策（也就是算法決策）必須要首先得到充分的評估后才能使用，且自然人擁有了解這些基于自動化分析生成的決策所涉及的邏輯的權(quán)利。
這個條款的精髓在歐盟發(fā)布的《通用數(shù)據(jù)隱私保護條例》中也得到了繼承，在新的條例的第22條中不僅規(guī)定了類似權(quán)利的落實，還補充了對從事自動化決策的數(shù)據(jù)控制人增加新的信息披露業(yè)務(wù)的要求，認為所有的算法提供商和數(shù)據(jù)使用權(quán)利放，從一開始就需要在數(shù)據(jù)隱私保護和程序設(shè)計方面滿足合規(guī)性，其核心目標在于“確保在信息系統(tǒng)開發(fā)的整個生命周期中切實考慮利益相關(guān)者的隱私保護和權(quán)益保護”。
從這一點可以看到，歐盟的數(shù)據(jù)治理思路相對于20年之前的變化。如果說《數(shù)據(jù)隱私保護指令》是一個從數(shù)據(jù)隱私保護出發(fā)，對機器自動化決策進行治理的規(guī)范文件，《通用數(shù)據(jù)隱私保護條例》的立法目的并不是關(guān)注機器的使用，而是要徹底通過權(quán)利的賦予方式來重塑人和機器的關(guān)系，這也是數(shù)據(jù)隱私相關(guān)問題的實質(zhì)，即我們建立一種怎樣的符合人類社會發(fā)展需要的人機交互關(guān)系?！稊?shù)據(jù)隱私保護治理》以及法國在1978年所頒布的《數(shù)據(jù)處理、文件和個人自由法案》都源于對機器決定論引發(fā)的人類社會發(fā)展的擔憂，因此更多的是一種消極治理的思路（后者對所有自動數(shù)據(jù)處理的司法、行政或個人決定都一概禁止）。
可以說，它們的基本邏輯是一種保守主義思想的體現(xiàn)，即確保人類維持對自身造成重大影響的決策的重大控制并為之負責。因此《數(shù)據(jù)隱私保護指令》將某種類型的決策行為作為制約要點而并不是數(shù)據(jù)的處理方式放在嚴格的質(zhì)量控制之下，這很類似我們在法學(xué)中所強調(diào)的“自然正義觀”。
我們再來看以數(shù)據(jù)隱私保護聞名的《通用數(shù)據(jù)隱私保護條例》，與數(shù)據(jù)隱私相關(guān)且繼承了第15條的是第22條，我們對這個條款的主體內(nèi)容進行分析來看數(shù)據(jù)隱私保護的實質(zhì)。其條款規(guī)定“數(shù)據(jù)主體有權(quán)反對此類決策：完全依靠自動化處理——包括用戶畫像——對數(shù)據(jù)主體做出具有法律影響或者類似嚴重影響的決策”，除非滿足以下條件：（1）決策對于數(shù)據(jù)主體與數(shù)據(jù)控制者的合同簽訂或合同履行是必要的；（2）當決策時歐盟或成員國的法律所授權(quán)的，控制者是決策的主體，并且已經(jīng)制定了恰當?shù)拇胧┍Ｕ蠑?shù)據(jù)主體的權(quán)利、自由和正當權(quán)利；（3）當決策建立在數(shù)據(jù)主體的明確同意基礎(chǔ)之上?？梢钥吹?，這個條款的規(guī)定與《數(shù)據(jù)隱私保護指令》的內(nèi)核思想一脈相承，不僅對機器錯誤和算法歧視帶來的社會不公平和偏見懷有很大的擔憂，還直接將用戶畫像（或者叫自動化側(cè)寫技術(shù)）作為命題進行定義和分析。
但我們要看到的不僅是保守的一面，還要看到相關(guān)條例中所涉及的關(guān)于權(quán)利進路的思維，即相關(guān)條例承認一個顯示就是自動化算法已經(jīng)廣泛用于私營部門和政府部門，而相關(guān)的應(yīng)用是可以帶來有益于社會的正向福利的。
相關(guān)的法條通過規(guī)定當事人同意、法律授權(quán)和合同約定等方式為自動化決策和數(shù)據(jù)安全提供了實際的路徑（雖然很多方面的討論尚未完善）。更進一步，在《通用數(shù)據(jù)條例》中提出了數(shù)據(jù)最小化原則和適當性原則，第25條規(guī)定了控制者有責任采取適當?shù)募夹g(shù)與組織措施，以保障在默認情況下，只有某個特定處理目的所必要的個人數(shù)據(jù)被處理，這種責任適用于收集的個人數(shù)據(jù)的數(shù)量、處理的限度，儲存的期限以及可訪問性。
換言之，個人數(shù)據(jù)應(yīng)該保持“精簡和鎖定”的狀態(tài)。這與《數(shù)據(jù)隱私保護指令》中僅僅強調(diào)數(shù)據(jù)信息安全不一樣，強調(diào)的是從軟件或硬件設(shè)計到業(yè)務(wù)策略和商業(yè)實踐整個鏈條的原則適用性。
具體到數(shù)據(jù)隱私問題，第25條背后展現(xiàn)出來的數(shù)據(jù)倫理考慮的核心思想，就是以增強隱私數(shù)據(jù)隱私保護技術(shù)為基礎(chǔ)，將保護隱私的理念設(shè)計到相應(yīng)的軟件系統(tǒng)中。換句話說就是將人類的倫理價值觀嵌入到技術(shù)設(shè)計的過程之中，這也是我認為未來解決數(shù)據(jù)隱私和倫理問題的核心，即將行為的正義性和倫理道德的合理性通過技術(shù)來嵌入，而不是僅僅通過保守的數(shù)據(jù)隱私保護的方式去解決。
事實上，這樣的思想逐漸正成為AI倫理或者數(shù)據(jù)倫理研究的重要路徑，無論是雷登伯格提倡的“信息法制（LexInformati－ca）”，還是希爾德布蘭特和庫普斯所提倡的“環(huán)境性法律（Am－bientLaw）”，都涉及到了相應(yīng)理念，認為跨學(xué)科的技術(shù)應(yīng)用的方式能夠比傳統(tǒng)法律更好地塑造人類社會與人類行為。
數(shù)字世界運行邏輯的認知重構(gòu)
理解這一點后，我們可以提出我們的理念，即數(shù)據(jù)隱私保護和算法決策等問題的核心在于，是否我們可以通過程序設(shè)計的范式來實現(xiàn)人類權(quán)利的保護，以及相應(yīng)倫理道德價值觀在技術(shù)層面的落實。
當然，我們可以預(yù)言到相應(yīng)的阻礙到底有多大，包括法律語言的措辭和語法無法轉(zhuǎn)換、復(fù)雜晦澀的法律權(quán)利和義務(wù)的范圍難以說清以及交叉數(shù)據(jù)隱私保護和算法透明性等問題。但可以認為，這條路徑在科技向前發(fā)展的情況下，幾乎是唯一可以實現(xiàn)權(quán)利保護和社會發(fā)展平衡的路徑，與其陷入無休止的倫理道德爭端，不如考慮技術(shù)路徑如何實現(xiàn)這樣的復(fù)雜系統(tǒng)。
更進一步說，數(shù)據(jù)分布在社會的各個領(lǐng)域，從個人生活到公共服務(wù)領(lǐng)域，再到國家、政府的治理以及決策等環(huán)節(jié)，數(shù)據(jù)的使用也非常普遍。
微觀層面的個體都是數(shù)據(jù)的攜帶者、生產(chǎn)者和使用者；中觀層面看，對數(shù)據(jù)的挖掘和使用就是智能化算法最主要的工作，也是AI能夠?qū)鹑?、零售、醫(yī)療等行業(yè)進行賦能的原因。宏觀層面來看，涉及國際政治、軍事和經(jīng)濟都會使用到不同的數(shù)據(jù)。
可以看到，在數(shù)據(jù)生產(chǎn)和被算法使用的過程中，兩個過程是同時進行的：一方面，算法將自然界中的事物進行數(shù)據(jù)化，即人類存在的實體世界轉(zhuǎn)換成了新的樣式；另一方面，數(shù)據(jù)的產(chǎn)生形成了新的自然界，與現(xiàn)實的世界進行深度互動。
正如斯蒂格勒所說，虛擬現(xiàn)實的各種代具都是由“顯像銀幕眼鏡”和“數(shù)據(jù)庫手套”組成的，眼鏡中呈現(xiàn)的虛擬空間要么根本不存在，而只是從其整體物理特征上模擬出來；要么存在于別處，但在眼鏡與手套使用者的真實所在地被虛擬復(fù)制出來。
換言之，我們正處于真實世界和數(shù)據(jù)世界疊加的狀態(tài)中，數(shù)據(jù)隱私的問題從根本上來說并非只是一個單獨權(quán)利的保護，而是對數(shù)字世界運行邏輯的認知重構(gòu)。
這帶來的是數(shù)據(jù)作為生產(chǎn)要素的特殊性，它改變了既有世界的本體論、認知論與倫理價值觀：從存在論的角度看，人類存在其中的世界已經(jīng)產(chǎn)生了數(shù)據(jù)這種新的要素，以及智能化機器這樣非自然生成物，因此一種新的存在環(huán)境被生成。
具體來說，存在的軌跡以數(shù)據(jù)的方式呈現(xiàn)，從技術(shù)哲學(xué)的角度來說，數(shù)據(jù)帶來了“在場性”的變化，即通過數(shù)據(jù)化的技術(shù)讓人的在場性被拓展，使得透明性退場。例如通過圖像識別技術(shù)重現(xiàn)人們的運動軌跡和時間序列，或者通過對商場的數(shù)據(jù)挖掘使得人們的行為能夠被引導(dǎo)。
這樣的方式改變了人們的行為邏輯，也是數(shù)據(jù)要素最重要的價值；從認知論的維度來看，人類面向的世界不再是人改造自然的簡單關(guān)系，而是生成了新的物種和要素，感知世界的方式和自我認同的方式也在改變。
算法可以通過數(shù)據(jù)的調(diào)節(jié)，來調(diào)整數(shù)據(jù)自然里的出場次序和顯現(xiàn)的影像。例如，臉書通過算法的改變，對自身的首頁內(nèi)容進行不同推薦，這樣的結(jié)果不僅是商業(yè)層面的，也是認知層面的，這才帶來了后續(xù)跟劍橋分析公司的丑聞；相應(yīng)的，這也就帶來了數(shù)據(jù)倫理視域的視角變化，即從人、技術(shù)與自然世界的關(guān)系來重構(gòu)我們的倫理觀念。
最近發(fā)生的一系列關(guān)于數(shù)據(jù)隱私的新聞事件，加深了個體對隱私問題隱私的擔憂，同時依賴人口紅利的互聯(lián)網(wǎng)經(jīng)濟和基于機器學(xué)的決策系統(tǒng)的復(fù)雜和不透明則加深了這一擔憂。如何發(fā)揮好相應(yīng)監(jiān)管條例的前提條件就變得苛刻起來。
這里不得不強調(diào)一個事實，就是不管是算法還是監(jiān)管措施都在指向算法“透明度”，而事實上，對于現(xiàn)有的以深度學(xué)習(xí)為基礎(chǔ)的人工智能算法來說是幾乎不可行的，相應(yīng)的研究和立法試圖創(chuàng)造這樣的不可行的也不符合用戶需求的透明形式的權(quán)利，其結(jié)果是非常危險和毫無意義的。透明度的權(quán)利并不一定能夠確保實質(zhì)性的競爭或者有效的補助措施，更多是在感官上給大眾一種監(jiān)管有所作為的體現(xiàn)，而并沒有考慮事實上的技術(shù)和應(yīng)用情境。
相對應(yīng)的，《通用數(shù)據(jù)隱私保護條例》只是在原則層面提供了“公平和透明地處理個人數(shù)據(jù)”的說法，這樣為數(shù)據(jù)隱私保護法律提供了一個比較開放和靈活的尺度，去衡量數(shù)據(jù)隱私問題的影響并讓算法決策系統(tǒng)承擔責任。除此之外，條例中的其它條款更具備可操作性，包括數(shù)據(jù)隱私保護影響評估、數(shù)據(jù)可移植性、數(shù)據(jù)認證和數(shù)據(jù)刪除等。
換言之，我們可以根據(jù)實操的可行性和原則的方向，引入更多可以實施的權(quán)利方向進行討論（例如“合理推斷權(quán)”等），而不是坐等一個完善的條例出現(xiàn)或者毫無實操意義的指導(dǎo)建議成為討論的熱點。
總結(jié)下，我們對數(shù)據(jù)隱私和算法決策的倫理進行了解讀，即在于我們采納了一種行為主義導(dǎo)向的方式去看待數(shù)據(jù)隱私。一方面，我們承認個人數(shù)據(jù)權(quán)利的重要性和相應(yīng)監(jiān)管機制建立的必要性。另一方面，我們也要減少一刀切的“規(guī)范性斷聯(lián)”以及“監(jiān)管過度延伸”的情況出現(xiàn)。
隱私保護不是不作為的借口，而是尋求算法規(guī)制的起點，我們要保護的是數(shù)據(jù)在成為算法決策依據(jù)后的公平和正義。
換言之，我們承認技術(shù)與倫理的雙向調(diào)節(jié)作用：一方面，我們認為技術(shù)通過對物質(zhì)環(huán)境的改造構(gòu)成自由，在這種物質(zhì)環(huán)境中存在著數(shù)據(jù)這一特殊要素，人類正在認知這樣的數(shù)據(jù)世界并形成新的倫理范式。另一方面，技術(shù)與人類正在形成特殊的連接，這種連接讓人們對技術(shù)的發(fā)展積極看待的同時報以警惕的心態(tài)，同時也在利用技術(shù)調(diào)節(jié)來為人類社會的道德發(fā)展制定新的規(guī)則和創(chuàng)新的詮釋空間，即將非人類的要素（如數(shù)據(jù)）納入到道德體系中去考慮。
因此，數(shù)據(jù)隱私問題與其說是商業(yè)權(quán)利跨越了道德門檻的問題，更深刻的理解是人類為了實現(xiàn)更大范圍的正義（不僅包括傳統(tǒng)世界，也包括數(shù)據(jù)的非自然世界），不得不提升自身的技術(shù)能力和修正倫理范式的過程。我們不僅要關(guān)注技術(shù)引發(fā)的倫理問題，也要看到技術(shù)對倫理的助推作用。
（作者系數(shù)字經(jīng)濟學(xué)家、商湯智能產(chǎn)業(yè)研究院主任）
重慶分公司
重慶分公司
