企業販賣大數據，網路演算法歧視，國家機關掌控原始碼
在數位科技主導一切的時代，我們還有自由嗎？

　　害怕隱私外洩的你，被網路制約的你，關心人權公義的你，
　　在淪為無良政府及資訊大亨的數據包之前，
　　唯有回到歷史找答案，才能脫離宰制，爭取更平等的數位未來！

　　「在這場危機中，數位科技扮演、且會繼續扮演它的角色，我們有必要謹慎思考是誰在做這些決策，以及為什麼做這些決策。是以，我想拋棄以下這個觀念：為了公眾的健康與安全，我們得承擔社會責任，必須容忍隱私與其它人權遭受侵犯。」──莉姿．歐榭

　　特別收錄中文版作者序──反思全球肺炎大流行下的政府監控作為

　　＊　Facebook在印度推行網路吃到飽服務為何踢到鐵板？是印度人不識好歹，還是免錢的網路最貴？
　　＊　70年代比爾蓋茲曾說過：「誰會願意花三年時間設計程式，抓錯誤，然後免費分享？」但為何偏偏就是有一群這樣的傻子？
　　＊　只不過點了網友減重文，Youtube就推薦沉重人生影片給我？反殖民大師法農將如何看待充滿偏見的演算法網路世界？
　　＊　18世紀倫敦的碼頭監控管理，為當前各國警察執法過當及中國社會信用評分系統提供怎樣的啟示？

　　當我們談到數位科技，總說要看向明天、放眼未來，然而，這只是讓人更搞不清楚到底該如何前往未來。本書作者莉姿．歐榭認為，我們該做的不是憑空想像，而是回頭看──看向歷史。

　　在這本引人入勝的書中，她用駭客的好奇心、史家的論述力，以及律師的精準度，回顧一些充滿革命性、對我們設想未來具關鍵價值的歷史事件及理論，引導讀者自由思考、對應當代或之後可能面對的問題。她以絕妙文筆展現了，當我們陷入科技資本主義掛帥的思維時，向過去學習，反而能看出許多為人權、平等及社會公義去爭取奮鬥的可能性，進而解放不同的數位未來發展選擇。這也是莉姿書中一再強調的：歷史是可用的，歷史是為未來而存在。

　　本書為身處新世界的每一個人所寫。不論你是創業者、程式設計師、激進駭客、Facebook使用者，或是對科技沒有好感而拒絕使用新科技的人，都可以從中獲得深刻啟發。

各界推薦

　　洪士灝　臺灣大學資訊工程學系教授
　　洪朝貴　「資訊人權貴」、朝陽科技大學資訊管理系副教授
　　莊庭瑞　中央研究院資訊科學研究所副研究員
　　唐　鳳　RadicalxChange理事
　　張鐵志　VERSE社長兼總編輯
　　傅大為　陽明大學科技與社會研究所榮譽教授

　　「對於想深入探討數位人權議題的讀者，本書嘗試貫通連結歷史人文、政治經濟與科技文明各個觀點所提出的綜觀全局及論述思辨方法，頗值得參考借鏡。」──洪士灝，臺灣大學資訊工程學系教授

　　「認為『沒做壞事，何必擔心被監控』的人們，曾自省『我在做正確的事嗎？』的程式設計師，以及關心資訊科技的社會學者，都應該讀本書。」──洪朝貴，「資訊人權貴」、朝陽科技大學資訊管理系副教授

　　「作者莉姿．歐榭以人權律師的全面視野，對數位時代的關鍵議題及資訊社會未必樂觀的將來，提出了敏銳的觀察與批評。在思索人類可能的數位未來之際，本書是很好的指引。」──莊庭瑞，中央研究院資訊科學研究所副研究員

廣泛好評

　　「深思縝密、平易近人、調查詳盡，蒐羅了眾多概念去說明數位科技不是純利潤導向，而是能為人民服務的。要是你受夠了那些矽谷式宣傳，這本書絕對值得一讀。」──美國最大讀者書評網Goodreads

　　「以發人深省的文字和見識廣博的觀點，去探究數位科技的主題。」──《工程科技雜誌》（Engineering and Technology Magazine）

　　「莉姿帶著駭客的好奇心、史家的論述力、律師的精準度，來探討吾人受數位所浸淫的今天；她提出令人信服的論點：有一個更好的世界正等著我們追求。」──史考特．盧德蘭（Scott Ludlam），澳洲綠黨

　　「本書舉出很多歷史，但其中蘊含的觀點都一樣，激進且兼容並蓄：一點點社會主義、一點點無政府主義、對數位偏差行為的嚴格指責，以及貫穿全書的良性呼籲──運用科技力量實踐人類潛能。」──《選擇》雜誌（Choice）

　　「有力、適時、堅定地徹底提醒並告知我們，歷史具有的創意潛能。所有打算倖存於（甚至補救）灰暗科技時代的人，都應該閱讀莉姿的作品！」──克蕾兒．伊凡斯（Claire L. Evans），《寬頻：創造網路的女性》（Broad Band: The Untold Story of the Women Who Made the Internet）作者

　　「在我們淪為祖克柏、貝佐斯手下利用的數據包之前，數位革命之未來看似是個民主的烏托邦、數位的公有空間，並非由新自由主義規範所統管。我們是否可以了解革命的夢想，並停止渴望自我受到宰制呢？莉姿令人不可置信地──同時又令人興奮且相信地──申論道，若我們能動員歷史來幫助自我而非削弱自我，上述問題的答案是：YES！」──史都華．傑佛瑞斯（Stuart Jeffries），《深淵大飯店：法蘭克福學派的始末》（Grand Hotel Abyss: The Lives of the Frankfurt School）作者
 

作者簡介

莉姿．歐榭（Lizzie O’Shea）

　　澳洲律師、作家和廣播人。哥倫比亞大學法學碩士，研究法律、企業責任、數位科技及人權議題。

　　她是積極推動改革的行動家。除了創立關注數位民主的「Digital Right Watch」組織外，另外與記者、律師等有志者推動「Copwatch」計畫，關注警察濫權及司法改革，也獲得社會極大關注。

　　同時，她是經驗豐富的公益律師，專攻難民、維權人士和原住民權利。她參與多次公共訴訟，替弱勢者辯護，積極對抗社會不義。勇敢的行為受到多方稱許，更讓她獲得「人權英雄」之美稱。

　　莉姿會定期出現在澳洲電視、廣播節目評論法律、科技、人權等課題。她的文章曾刊登在《紐約時報》（New York Times）、《衛報》（Guardian）與《雪梨晨鋒報》（Sydney Morning Herald）上。

　　作者網址：lizzieoshea.com/
　　《衛報》專欄：www.theguardian.com/profile/lizzie-o-shea

譯者簡介

韓翔中

　　臺灣大學歷史系學士、歷史所碩士；臺灣大學哲學所博士生。譯作有《英倫視野下的歐洲史》、《城牆》等書。


 

推薦序 洪士灝 為科技的開放與民主化努力
推薦序 洪朝貴 誰需要關心數位人權？
推薦序 莊庭瑞
中文版作者序

1.    我們需要可用的歷史面對民主化的未來
西班牙王子的自動人偶與美國作家的續存歷史

2.    環繞消費而生的網路世界是不適合生活的糟糕地方
佛洛伊德和珍．雅各所想像的都市風貌

3.    數位監控不能保證我們的安全
倫敦碼頭和警察單位

4.    科技的偏見與製造科技者的偏見是一樣的
汽車炸彈、種族歧視運算法以及那些踩在底線上的設計

5.    科技的烏托邦主義非常危險
科技大亨還不如巴黎公社呢

6.    共同合作模式既自由又有效率
詩意哲學：從勒芙蕾絲到Linux

7.    數位公民權是眾人努力的結果
湯瑪斯．潘恩的「公民參與」革命理念

8.    自動化可以減少工作並增進生活
停止工作，這樣我們就可以打造會吃富豪的機器人

9.    我們需要的不只是隱私權，而是數位自主權
法蘭茲．法農加以理論化的自由

10.    數位世界的環境需要我們關心
古代政府統治與現代基礎建設相關

11.    保衛數位共有財！
讓乳牛社會化

結論 歷史是為未來而存在
另一個世界即將到來

致謝
譯後記
原書註

中文版作者序

　　就在我撰寫這篇序言的期間，這個世界正進入一個受新冠肺炎（Covid-19）大流行衝擊造成的全新常態。雖然這場危機的終結依然遙遙無期，但掌權者們已在這個例外狀態裡，試圖在各個層面將永久性編入體制當中。此刻重要的是去記住，這場流行病的原因與影響是有其社會及政治基礎的。阿蘭達蒂．羅伊（Arundhati Roy）曾說，我們應當將此流行病視為通往新世界的門戶。我們應該積極思考要帶上什麼，以及我們想要拋棄什麼，沒有時間可以拖延。倘若我們等到危機結束，我們的選擇可能已經被他人所決定了。

　　在這場危機中，科技扮演、且會繼續扮演著它的角色，所以我們有必要謹慎思考是誰在做這些決策，以及為什麼做這些決策。若採取羅伊的觀點，我想拋棄以下這個觀念：為了公眾的健康與安全，我們得承擔社會責任，必須容忍隱私與其它人權遭受侵犯。

　　我們可以看到，此觀念圍繞著與新冠肺炎相關的事情上展現：全世界的政府都以阻止病毒擴散的名義，實驗著各式各樣的監控科技。臉部辨識越來越在公共空間普遍使用，有時我們並未同意甚至毫不知情；公民們則被政府哄騙，下載接觸者追蹤（contact tracing）的app應用程式。十分常見的情況是，這些作為被沒有好奇心跟批判力的媒體、產業界「啦啦隊」，以及社會民主代表予以支持鼓勵，那些人多半是處在一種自願的無知及懦弱之間。理論上這種科技有其助益，但有太多的政治投機主義（opportunism）案例顯示，政治決策者是在灌輸一種監控文化，同時犧牲掉良好的設計，而忽略對原本的公共衛生目標造成的影響。

　　為了有效使用科技來阻止病毒擴散，就必然得妥協、損害某些追求共善的權利。假設大眾可以信賴負責執行的人，這樣的妥協或許是合理的；出自一些很好的理由，實際上這樣的信任是缺乏的，從而限制了這些規畫的有效性。問題並不是出在人們拒絕接受這些具有侵害性的措施；問題在於，掌權者一次又一次地顯示出他們並不尊重我們的權利與尊嚴。而他們的失敗所造成的影響，卻總是要由我們來承擔。

　　這就是運作的模式，而這個模式已有長遠的歷史，也就是投機地將大型監控塑造成某種必要的共善。多年來，政治人物一直以公共安全作為掩護來佈署科技，重新將權力的天秤倒向政府這邊，遠離民眾。這是我在下文主張的論點之一，也就是在第一批現代警力與當代數位監控國家之間劃下一條界線。當資本主義在十八世紀的英格蘭建立之際，專業警力組織的創建，是為了讓泰晤士河上的碼頭工人們乖乖工作。要做到這件事情，監控是一項便宜又有效的珍貴技術。預防犯罪被視為公共安全的同義詞，但在諸多層面上，它操控並強化了社會分裂，對反對現狀的力量予以鎮壓，其作為之性質實屬一種剝削與不平等。

　　經過兩百多年的歲月，監控型國家依然在負責預防犯罪，並為此打造了一套侵入性的數位設備。被用來合理化這些設備擴張的犯罪行為，通常是最糟糕的那種，例如恐怖主義、間諜活動、戀童狂等等。由於這些侵害極度不道德，讓人們用來辯論、防範這些侵入行為所採取的策略幾乎無效；同理，在全球流行病肆虐之時，對抗病毒的科技就被冠上崇高的道德性。要針對使用此等大規模為公民貼標籤、問責性極度不足的科技，去辯論其推行上的困難與道理上的顧慮，也成為一件極為困難的事情。

　　以安全之名合理化監控行為，是全球政治界一致的顯著課題。雖然許多美國政治人物喜歡談論自由，尤其愛談政府管太多，但他們依然堅定支持並資助國家安全與執法部門。私人企業也紛紛加入這些計畫，在本質上建立一個強健的人口社會圖譜（social graph）。就像吹哨者為我們所揭露的那樣，監控型國家的目標就是利用它那令人髮指的不義作為，來預知異議、處理衝突，並維護現狀。

　　同時，來到太平洋的彼端，中共政府繼續精煉、完善它那惡劣的社會信用制度，以及相應的監控科技網絡。讓自我膨脹的民選總統們掌握強大的科技，是件令人擔心的事；但讓獨裁者們掌握強大的科技，就是件令人恐懼的事。我們可以從中國的窮人及邊緣人的日常經驗看見這件事，那些人越來越被鎖在社會之外。這件事情會變成一項威脅，縈繞在每位可能有異議的人們頭上。我們也可能瞥見，香港的抗議者們無畏地走上街頭要求更好的未來，欲維持政治霸權的統治菁英們正面臨著挑戰。這些抗議者們蒙起臉來，有時蒙面方式還頗有創意；他們要對抗的是使用複雜追蹤科技的警方，而警方保護的是上頭的大老闆們。

　　重點在於，北京當局與華盛頓當局經常表現在它們在外交上的差異，但它們其實是用類似的方式，去抓住數位革命所提供的機會。無論是社會自由民主國家如美國，或者是專制政權如中共，統治菁英們都在追求監控。美國強烈依賴私人企業來做這件事，而在中國則是國營；但若檢視這些監控計畫的社會與政治基礎，雙方的差異便開始消弭。

　　所以在許多方面來看，這兩個國家的主政者都應該要被狠狠罵一頓才對。全世界的勞動人民有一個共同的利益所在，就是要確保數位革命的潛力，不會被揮霍在那些掌權者實施社會控制的計畫上。如布萊恩．邱（Brian Hioe）所指出的：「左派面臨的問題在本質上是國際性的，所以無法單純以國對國的基礎來處置。」像在東南亞等地，政治人物或評論家可能會裝作事情不是這樣，但具有帝國思想的全球強權無論表現得多麼圓滑，這件事情都無法被彌補。這個世界上的每一個人都要拒絕那些國家的話術，並團結追求超越國界的共同目標。

　　數位科技可以成為政治解放的工具，尤其是讓網際網路成為一個無國界的資訊網絡，然要達成此事依然需要有人組織並採取行動。在許多有階級差異的社會中，那些菁英們將權力結構鞏固得非常成功，因此我們必須找出足以改變現存權力結構的方法。從我的觀點來看，解答在於發起運動，強迫政治決策者感受到自己對選民負有責任，並促使他們了解，他們若採取自身立場而不管公眾利益，這將是一個危機；而那些公司對於自己這般出賣用戶，也應當要戒慎恐懼。考慮到有這麼多國家在為同樣的問題──也就是如何在數位時代讓政府與企業負起責任──掙扎，這類的組織活動自然可以形成某種數位國際主義（digital internationalism）。

　　我們所處的這個時刻是令人振奮的。人們已經開始抗拒從前政治人物兜售的那套說詞，也就是要人民為了公共安全而放棄隱私與自主性。新冠肺炎疫情的經驗顯示了，隱私與公共健康可以共存，也就是說，政府們必須獲得社會許可（social licence），才能夠以特殊方式利用科技，而政府的舉止必須不再像是個祕密獨裁者。政治決策者不能再先制定科技措施，之後才考慮人權；政治決策者不能再把那些擔憂隱私問題的人們視為陰謀論者。這將是一股嶄新的政治動能：它很難爭取，但它必須加以捍衛。

　　吾人擁有一個機會，那就是將某些可貴的遺緒帶入本次疫情的門戶，進入我們在另一端的新世界。我們可以建立大眾意識，去爭取科技設計要去中心化，並接受開放原始碼原則。我們可以強調在設計科技的過程中，透明性、可靠性及問責制十分重要，而不是事後再加以修補，使得增進大眾信任度的機會又被浪費。我們也需要學習說「不」，若實際上沒有辦法提供此等保護的話。或許，我們需要暫時停止讓政府及企業推行臉部辨識科技，這是諸多有頭有臉的大公司們已經達成的結論。假使科技發展僅是在鞏固現存的權力結構，那麼科技發展就不能與進步劃上等號。

　　善用歷史作為自己的指引，我們可以將現在的狀況變成一個追求不同未來的理由。在本書的篇章中我將呈現，過去的社會運動及思想家們可以幫助我們探索數位時代所呈現的問題。我們今日面臨的科技問題其實根本不是新問題，它們通常有著更長久的淵源與歷史。我希望這本書可以讓你──慷慨而願意思考的讀者們──鼓起勇氣，拾起這個挑戰，利用數位科技作為改變事情的工具，讓權力遠離少數人，讓權力歸於眾人。

推薦序

為科技的開放與民主化努力
臺灣大學資訊工程學系教授　洪士灝

　　數位科技在過去數十年來大幅改變了人類社會，但是在數位科技為大多數現代社會的人們帶來了前所未有的便利之同時，人們是否知道這些仍在加速進行中的數位轉型（digital transformation）會將人們帶往何處？在轉型的過程中，人們可能會失去哪些過去曾經擁有的美好事物？

　　對於這些大哉問，身為科技研究與教育工作者的我，實際上是非常戒慎恐懼的。雖然有不少人說科技不過是工具，而工具是中性的，可以為善為惡，端看其使用者，但我還是很難如此冷眼坐視旁觀。尤其是在科技文明發展到一個「量變產生質變」的節骨眼上，從小齒輪到身居樞紐角色的科技社群，對於人類的未來若是有多一分的思考和關切，或許就更能扮演好科技人之外的數位公民的角色，為數位民主、數位人權做出一些貢獻。

　　本書所提到的多項議題，都是科技社群理當關心的，例如：蒐集與運用數據時應該保護的個資隱私，發展應用人工智慧技術時應該深思的倫理議題，政府是否正視數位人權、不讓掌握數位科技的大公司霸凌世人？在此數位科技的洪流衝擊下，一般大眾乃至於科技社群，該如何自處和發聲呢？

　　科技社群的角色和心境往往是複雜的。以我所接觸過的科技社群，絕大多數都是善良之輩，不願助紂為虐，但分辨善惡的困難，正如書中所列舉的實例，經常超乎我們的想像。例如Facebook在印度打著「讓窮人也能上網」的旗號推出Free Basics 零費率的上網服務，立意貌似良善，但其幕後的圖謀算計並不單純，透過作者鋒銳的剖析，讀者得以理解為何印度政府會禁止此一服務。對於想深入探討數位人權議題的讀者，本書作者嘗試貫通連結歷史人文、政治經濟與科技文明各個觀點所提出的綜觀全局及論述思辨方法，頗值得參考借鏡。

　　然而思辨之後，又該如何？本書作者身為律師，長期關注數位人權及原住民議題，著書立言的重點在於突顯當今事態的嚴重性，以及呼籲世人展開行動，而人們在此關鍵時刻的關注與行動，將對人類未來的歷史文化有深遠的影響，這也是本書原文名為Future Histories的意涵。本人對此深有同感，也經常呼籲科技產學界的友人們正視科技的開放與民主化，為本土與人類的未來盡一己之力。

　　在各界探討如何有效規範和監督大型科技公司的同時，科技專業人員也可扮演要角。正如世界最大的電腦科學家、工程師組織ACM曾給予其會員的警語「要避免科技的濫用，科技專業人員會是第一道、也是最後一道防線」所陳述的，理解和關注數位人權的科技專業人員，在數位科技時代有極多的機會扮演吹哨者與守護者的關鍵角色。例如受雇於Microsoft、Google等大公司的工程師，更有能力檢視公司的所作所為，拒絕讓自己成為濫用科技的共犯；以及提倡自由（free）與開源（open source）軟硬體，讓世人共享科技發展的果實，避免科技被寡頭壟斷。當然，很多社會上新的典範轉移，都需要各界的合作和法律規範的配合才行。

　　反觀國內，臺灣這個在實體世界的戰略要地與文化融爐，在數位科技時代中應何以自處？在全球零距離的數位世界中，又該如何發展出自身的特色？我想這也是需要國人跨領域集思廣益的大哉問。希望藉由本書的流傳，讓國內更多專業人士來關注此議題，使臺灣在全球數位轉型的過程中更加地有為有守。

第四章 科技的偏見與製造科技者的偏見是一樣的（節錄） 汽車炸彈、種族歧視演算法，以及那些踩在底線上的設計 哈佛大學教授拉坦雅．斯葳尼曾經將自己的名字輸入Google，搜尋過去寫的一篇論文。她驚訝地看見蹦出來的廣告，上頭標題寫著「拉坦雅．斯葳尼──被捕了？」斯葳尼本人沒有犯罪紀錄，她點擊連結導向至該公司網頁，那是間兜售人們公共紀錄的公司；斯葳尼付了點錢來取得資料，資料上確認她沒有犯罪紀錄。斯葳尼的同事亞當．坦納爾進行類似的搜尋動作，該公司的公共紀錄廣告也冒出來，可是卻不像前者一樣有如此煽動的標題。坦納爾是個白人，而斯葳尼是非裔美國人。 斯葳尼於是決定研究這些廣告的置入情況，看看是否有模式可循。她沒有料到會得到確定的結果，其研究清楚呈現了：「暗示逮捕情事的廣告傾向與黑人姓名相關；然而輸入白人姓名時，則出現中性的廣告、或根本沒有廣告，無論該公司是否握有與該白人姓名相關的逮捕紀錄。」 易言之，與「逮捕」一詞相關廣告出現的頻率，黑人名字的比例高於白人，而真實的犯罪紀錄並不是一個決定性的變數。 這是怎麼一回事呢？欲解釋此事，就需要解析線上廣告產業。每當你點擊網頁時，不同公司的即時廣告便競相爭取你的注意力。我們已經知道，監視型資本主義用各種方式來斷定你對行銷者有多少價值；對於我們的習慣，這些公司甚至比我們自己更清楚，它們擁有人們抽象身分的詳情──我們自我意識的歷史，由消費來定義、以消費為目的──而且它們會藉此在最適當的時刻寄送行銷資訊給我們。若對此不加處置，其結果便是讓新科技再生產真實世界型態的壓迫行為。