懲罰貧窮:大數據橫行的自動化時代, 隱藏在演算法之下的不平等歧視

click:2163

Translated from:Automating inequality:how high-tech tools profile, police, and punish the poor

Other title:大數據橫行的自動化時代, 隱藏在演算法之下的不平等歧視 大數據橫行的自動化時代隱藏在演算法之下的不平等歧視

Author:維吉妮亞.尤班克斯(Virginia Eubanks)著;洪慧芳譯

Publication Year:2022[民111]

Publisher:日月文化出版股份有限公司

Place of Publication:台北市

Series:視野:90

Format:EPUB 流式,PDF,JPG

ISBN:9786267089385

EISBN:9786267089729 EPUB; 9786267089736 PDF

category:Social Science  


2019年莉莉安・史密斯圖書獎(Lillian Smith Book Award)、
2018年麥加農中心圖書獎(McGannon Center Book Prize)獲獎作品

本書揭露高科技工具影響人權與經濟公平。
看似客觀中立的機器運算,
可能在學習人類提供的資料後,
再複製社會偏見與歧視,形成「自動不平等」!


▴美國印第安納州在三年內駁回100萬人的醫療照護、糧食券和現金救濟申請,只因為資格自動審查機制把不完整的申請錯誤統統歸結為申請者未能配合。繁瑣的行政程序和不合理的期望使人們無法獲得應得的利益,只有少數幸運兒得以獲得公共資源。

▴▴洛杉磯由於住房有限,當局採用一種演算法,計算成千上萬名無家可歸者的「相對弱勢」,並按照優先排序提供這些人住房服務與資源。然而,這套系統會跟警察系統共享貧窮人口和工人階級的個資,造成窮人與犯罪分子輕易被歸納為同一個分類,否決了他們的基本權利,損害了他們的人性與自主權。

▴▴▴賓州阿格勒尼郡的風險預測模型以統計數據來預測哪些家庭會虐童、哪些人是問題父母,但數據庫的資料來源卻集中在仰賴公共資源的低收入家庭。光是在2016年,模型預測的1萬5139筆虐童報告中,就有3633筆不正確;在此同時,數千個貧困家庭與少數族群的生活早已無端遭受侵入及監視。

進入數位時代以來,金融、就業、政治、衛生和公共服務、治安管理等領域的決策都經歷了革命性的變化。如今是由自動化系統而不是由真人來掌控哪些社區受到監管,哪些家庭獲得需要的資源,或是哪些人該接受詐欺調查。雖然人人生活在這種新的資料制度下,但侵入性及懲罰性最強的制度,卻完全針對窮人所設計。

政治學家維吉妮亞・尤班克斯在本書中,有系統地探究了資料探勘、政策演算法、預測性風險模型對美國窮人與勞工階級的影響。書中充滿了令人揪心、瞠目結舌的故事,例如印第安納州一名婦人因為癌症末期住院治療,錯過了重新認證補助資格的預約,被取消福利救濟;賓州的某個單親媽媽每天都擔心失去女兒的撫養權,只因她符合某種統計形象。

美國一直以來使用最尖端的科學與技術來遏制、調查和懲戒窮人。「數位追蹤」與「自動化決策系統」就像以前的郡立濟貧院以及科學慈善運動,讓中產階級看不到貧困,讓國家抽離了道德規範,做出非人道的選擇:誰能獲得溫飽、誰得挨餓受凍;誰有住房、誰依舊無家可歸;政府應該拆散哪些家庭。在這過程中,它們更削弱了民主,背叛了人們最珍視的民族價值觀。

也許,貧窮並非我們都需要馬上面臨的課題,但在演算法的使用之下,所有人都將無可避免地受到資源分配的影響。這本研究深入、慷慨激昂的好書來得正是時候!

【本書特色】
1. 綜觀書市,大部分類似的書籍都僅探討演算法對於社會的影響,很少有如本書一樣聚焦於「貧困」議題;而這個問題並不單單只會發生於窮人身上,因為演算法讓所有的人都有可能遇到類似的困境。這樣的主旨使本書在相關作品中更顯獨特。
2. 本書特別針對公共福利相關的措施來做描述,從事社會福利相關職業、關注當今貧窮社會議題的讀者,或是對科技應用於社會福利制度有興趣的讀者,在閱讀完本書之後,都能對貧困現象的產生與發展有更進一步的瞭解。

【國外好評推薦】
「這本書十分駭人。不過,讀了以後,你將變得更精明,更有能力去尋求正義。」——娜歐蜜・克萊恩(Naomi Klein)/《震撼主義》(The Shock Doctrine)作者


「尤班克斯在書中精采地記錄了自動化時代『另一半的人如何生活』,並揭露一道新的數位鴻溝:一個使最邊緣化的社群身陷困境的全面監控網路。這本震懾人心、發人深省、充滿人道關懷的好書,揭露了資料導向的政策所造成的反烏托邦,並敦促眾人創造一個更公正的社會。」——阿朗卓・尼爾森(Alondra Nelson)/《DNA的社會生活》(The Social Life of DNA)作者


「在這本發人深省的好書中,尤班克斯讓我們看到,現代社會雖有表面的改革,但我們針對弱勢族群所制訂的政策,依然是由古老的濟貧法所主導,而那些法條只會排擠並懲罰社群中最貧困的人。」——弗朗西絲・福克斯・派文(Frances Fox Piven)/《規範窮人》(Regulation the Poor)作者


「這是今年最重要的科技好書。如今每個人都擔心網路對民主的影響,但尤班克斯指出,我們面臨的問題遠比『假新聞』更嚴重——自動化系統鞏固了社會與經濟不平等,破壞私人與公共福利。尤班克斯深入研究歷史與報告,幫大家更瞭解我們面臨的政治與數位力量,以便更有效地反擊。」——阿斯特拉・泰勒(Astra Taylor)/《人民平臺》(The People’s Platform: Taking Back Power and Culture in the Digital Age)作者


「這本書清楚地揭露美國的體制(從執法到醫療、再到社會服務)日益懲罰窮人,尤其是有色人種。如果你擔心美國現代工具的不平等,這是一本必讀的好書。」——桃樂西・羅伯茲(Dorothy Roberts)/《殺死黑人》(Killing the Black Body)與《瓦解的關連》(Shattered Bonds)作者


「這本書是寫給所有人看的,包括社群領袖、學者、律師、接受政府援助的人以及需要更深入瞭解『靠數位產業致富的國家如何利用技術來創造並維持永久性下層階級』的人。這是為我們這個時代撰寫的書。」——馬基亞・西里爾(Malkia A. Cyril)/媒體正義中心(Center for Media Justice)的執行董事與共同創辦人


「想瞭解資訊科技對美國邊緣化人口的社會影響,這本書是近期最重要的書籍。當我們開始討論人工智慧危害人類的可能性時,尤班克斯的這本書應該列入必讀書單。」——伊森・佐克曼(Ethan Zuckerman)/麻省理工學院公民媒體中心主任


「內容驚人,精采萬分⋯⋯誠如尤班克斯所述,自動化加上不顧道德又講究效率的新技術,不僅威脅到那些社會視為可有可無的數百萬人,也威脅到民主。如果你想瞭解這個數位夢魘如何深入我們的體制並試圖規範我們的生活及你該如何挑戰它,這是一本必讀的好書。」——亨利・吉羅(Henry Giroux)/《身陷險境的大眾》(The Public in Peril:Trump and the Menace of American Authoritarianism)作者


「這是一個扣人心弦的精采故事,講述不良資料、劣質軟體、無能或腐敗官僚如何把弱勢族群的生活搞得天翻地覆。現在的治理往往隱藏在令人費解的法律與程式碼的背後,每個人都應該讀一讀這本書,以瞭解現代治理的實際運作。」——法蘭克・帕斯夸(Frank Pasquale)/《黑盒子社會》(The Blackbox Society: The Secret Algorithms That Control Money and Information)作者


「尤班克斯的新書講述正在興起的監控國家,這個精采的故事令人震驚。『數位濟貧院』不斷擴大網絡,與其說是為了幫助窮人,不如說是為了管理、約束、懲罰窮人。閱讀這本書,並加入尤班克斯的行列,一起反對這個網絡所造成的不公正吧。」——桑福德・施拉姆(Sanford Schram)/《福利用語》(Words of Welfare)與《懲罰窮人》(Disciplining the Poor)作者


【權威推薦】
呂建德/中正大學社會福利學系教授
巫彥德/人生百味共同創辦人
李明璁/社會學家、作家
李建良/中央研究院法律學研究所特聘研究員×科技部「人工智慧的創新與規範」專案計畫總主持人
李政德/成功大學數據科學所教授
杜文苓/政治大學創新國際學院院長
林文源/清華大學人文社會AI應用與發展研究中心主任、通識教育中心教授
林佳和/政治大學法學院副教授
阿潑/轉角國際專欄作者
洪敬舒/臺灣勞工陣線協會研究部主任
張國暉/臺灣大學國家發展研究所副教授、風險社會及政策研究中心研究員
張烽益/臺灣勞動與社會政策研究協會執行長
黃益中/公民教師、《思辨》作者
劉揚銘/自由作家
劉靜怡/臺灣大學國家發展研究所專任教授
顏擇雅/作家、出版人
(以上依姓氏筆畫排序)

維吉妮亞・尤班克斯
紐約州立大學奧爾巴尼分校政治學副教授,著有《數位死胡同》(Digital Dead End),並與艾萊西亞・瓊斯(Alethia Jones)合編《堅持自我》(Ain't Gonna Let Nobody Turn Me Around)。在《科學人》(Scientific American)、《國家》(The Nation)、《哈潑》(Harper’s)和《連線》(Wired)等雜誌發表過多篇有關科技與社會正義的文章。20年來致力投入社群科技與經濟正義運動,現居紐約州特洛伊。

  • 國外好評
  • 前言 示警
  • 第一章 從濟貧院到資料庫
  • 第二章 美國心臟地帶的資格認證自動化
  • 第三章 洛杉磯的高科技無家可歸者服務
  • 第四章 阿勒革尼演算法
  • 第五章 數位濟貧院
  • 結語 拆除數位濟貧院
  • 謝辭
  • 資料來源與研究方法
  • 注釋