置頂
永生獨裁者的崛起：AI對自由和政府意味什麼？
2025/02/07 16:37
瀏覽369
迴響0
推薦0
引用0
約翰/妮莎·懷特黑（John & Nisha Whitehead）2025年2月3日
《數位專制與人工智慧監控的未來：我們是否終面對將一場爭奪自由的鬥爭？》
「如果一間公司或少數人群能開發出類似神的數位超級智慧，他們可能會征服世界。至少當有個邪惡獨裁者時，而人終究會死去。但對於AI來說它不會死亡，它將永遠存在。那麼，將擁有個不朽的獨裁者，我們將永遠無法逃脫。」
~馬斯克（2018）
陰森國度即將進入加速模式。
當新聞媒體專注於《2025計劃》是否可能成為特朗普政府用來鎖定國家的計劃時，實際上有更具顛覆性的權力博弈在特朗普那種獨特的政治表演背後悄悄進行。
仔細看看所展開的局勢會發現，儘管表面看起來相反，特朗普並不打算消除陰森國度。相反，他是被陰森國度聘請來引領AI的黃金時代。
準備迎接監控國家2.0。
為了實現此加速的監控國家，政府正依賴其最強大的武器：AI。AI具有學習、適應並以人類無法想像的速度運作的能力，正準備成為新世界秩序的引擎。
在過去的70年，這項技術發展迅速，從早期的電腦展示出原始形式的AI，到機器學習（通過歷史數據學習的AI系統），再到深度學習（模擬人類大腦的機器學習），再到生成式AI（能創造原創內容，即看似能夠自行思考的AI）。
我們正接近無法回頭的時刻。
在科技術語中，此無法回頭的時刻更恰當地稱為「奇點」，即AI超越人類操控者並變得無所不能的時刻。馬斯克預測奇點可能會在2026年發生。AI科學家庫茲韋爾（Ray Kurzweil）則預計會在2045年左右發生。
雖然科學界對AI在改變我們各個方面上所產生的世界影響有很多討論，但對它在政府中日益增長的作用以及它對自由的壓迫性影響，尤其是「隱私、自主權、平等、政治過程和法治這些核心民主原則」的影響，卻鮮有提及。
根據埃森哲的一份報告，預計在公共和私營部，生成式AI有潛力自動化各行各業的大量工作。
這裏有個想法：如果特朗普承諾裁減聯邦政府人員，其實並非要消除政府的官僚體系，而是將其外包給AI科技領域呢？
當然，特朗普對於將AI列為優先事項的計劃並不隱瞞。實際上，特朗普在2019年簽署了首個AI行政命令。最近又發佈了一項行政命令，允許科技部在無需任何安全防範措施的情況下開發和部署AI，可能對美國的國安、經濟、公共健康或安全構成風險。
必須注意的是，拜登也並不比特朗普好多少。他的行政命令被特朗普撤銷，該命令僅要求科技部向政府分享AI安全測試的結果。
然而，跟我們看到無人機推行過程中的模式十分相似，儘管政府迅速利用AI技術，但對於保護人民的權利卻幾乎沒有做任何事。
事實上，當涉及到政府使用AI時，我們完全缺乏有關透明度、問責制和法治遵守的任何防範措施。
正如曼海姆（Karl Manheim）和莉莉克（Lyric Kaplan）在《耶魯法律與科技期刊》中的一篇令人不安的文章中指出的，AI對隱私和民主構成的風險：
「AI是現代時代最具顛覆性的技術...它的影響可能會超過互聯網的發展，並進入我們的每一個角落...AI的進步不僅預示着電腦領域的新时代，還帶來了對社會價值觀和憲法權利的全新危險。社交媒體算法和物聯網對隱私的威脅已廣為人知，但不太為人所知的是，AI對民主本身構成的更大威脅。」
這就引出了「數字專制主義」或「算法統治；由算法統治的政權」的興起。
在算法統治中，「非死不可和谷歌的CEO朱格伯和皮查伊（Sundar Picha），對美國人民的生活和未來的控制，超過了所選出的代表。」
正如戰略與國際研究中心所警告的，數字專制主義涉及使用信息技術來監控、鎮壓和操控民眾，危及人權和公民自由，並奪取和腐蝕民主和開放社會的基本原則，「包括自由流動的權利、自由言論和表達政治異議的權利，以及個人隱私的權利，無論線上還是線下。」
我們如何保護自己的隱私，免受與政府合作的科技部日益增長的過度干涉和濫用威脅？
做到這一點的能力，可能已不再掌握在我們手中。
2024年，至少有37個聯邦政府機構包括國安部、退伍軍人事務部以及衛生與公共服務部等，報告了超過1700次使用AI來執行工作的情況，是前一年數量的2倍。這甚至還不包括沒有報告使用情況的機構，或各州和地方層級的使用情況。
在這1700起聯邦層級的案例中，有227起標註為影響權利或安全的情況。
一個特別令人不安的例子，展示了政府機構如何在影響權利和安全的情境下使用AI，來自《華盛頓郵報》的一篇調查報導，報導了全國執法機構如何將「AI工具」用於原本不應該使用的方式：作為一種快捷手段，通過沒有其他證據的情況下尋找並逮捕嫌疑人。
這在科技界稱為「自動化偏見」，即盲目相信強大軟體所做的決策，忽視它的風險和限制。在一具體案例中，警方使用AI驅動的臉部識別技術，將一名29歲的男子因為殘忍襲擊一名保安而逮捕並關押。蓋特林（Christopher Gatlin）花了2年時間才還他清白。
蓋特林是全國已知至少8個冤案中的一例，這些案例中，警方對AI臉部識別軟體的依賴導致錯誤的逮捕，這些錯誤源於對基本警務工作的完全漠視（例如檢查不在場證明、收集證據、證實DNA和指紋證據、忽略嫌疑人的身體特徵），以及未能達到符合憲法標準的正當程序和有合理理由的要求。根據《華盛頓郵報》的報導，「亞洲人和黑人被某些軟體錯誤識別的可能性，是白人男性的最多100倍。」
鑑於全國各地警方機構採用這項技術的範圍，以及特朗普政府有意關閉執法監督和警察改革的背景，AI對錯誤逮捕和可疑警務行為的貢獻的案件數量可能遠高於報導的數字。
「我怎麼打敗一台機器？」一名男子這樣問，他因為一個錯誤的AI匹配而被警方錯誤逮捕，指控他襲擊一名公車司機。
打敗AI機器已變得幾乎不可能。
當它被警察國的代理人使用時，它讓「我們人民」變得更加脆弱。
那麼，我們該怎麼辦呢？
對於特朗普政府來說，似乎正全速推進，從「星際之門」（Stargate）開始，這是5000億美元的AI基礎設施計劃，旨在建立巨大的數據中心。初步報導顯示，這些AI數據中心可能與數字健康記錄相關聯，並用來開發癌症疫苗。當然，用於AI的龐大健康數據中心意味個人的健康記錄將成為任何識別、追蹤和標記的目標。
這只是冰山一角。
結合AI的監控國家正創造無處可逃、無處可藏的世界。我們現在都被假定有罪，直到證明無罪。
由於政府龐大的間諜網絡；「融合中心」（Fusion Centers）進行24小時監控，我們都像鴨靶子一樣，等待被標記、標註、鎖定、監控、操控、調查、訊問、嘲笑和一般性地被美國警察國代理人騷擾。
即便從未故意犯下任何罪行或被定罪，我們和市民朋友很可能已被評估為政府可能認為詭異、危險或令人擔憂的行為；根據個人的關聯、活動和觀點，被賦予威脅分數；並根據特定的威脅等級，將我們編入政府數據庫，以決定如何由警察和其他政府機構接觸我們。
不久後，美國的家庭都將被標註為威脅並被賦予威脅分數。
這只是時間問題，當發現自己被錯誤指控、調查並被警方根據由AI運行的電腦程序整理出的數據驅動算法或風險評估所對付時。
這是個容易被濫用的設置。
曼海姆和卡普蘭在（Manheim、Kaplan）《耶魯期刊》上撰文總結道：「人類作為一個物種可能不會面臨風險，但我們無疑在民主制度和價值觀方面面臨風險。」
隱私；曼海姆和卡普蘭簡潔地將其描述為「自己做出個人決策的權利、保持個人信息機密的權利，以及被放過的權利，這些都是隱私基本權的要素」；尤其處於風險之中。
事實上，隨着每一項新的AI監控技術的採用和部署，完全無視隱私、第四修正案權利和正當程序，公民的權利正被邊緣化、削弱甚至摧毀。
我們正站在一次文化、技術和社會革命的邊緣，這種革命前所未見。
AI監控正將我們的世界重新定向，使自由幾乎變得無法辨識，通過做警察國無法有效或高效完成的事情：無處不在、監視每個人和每件事、監控、識別、編目、交叉檢查、交叉引用和共謀。
正如前谷歌CEO施密特（Eric Schmidt）所說的：「我們知道你在哪裏。我們知道你去過哪裏。我們或多或少知道你在想什麼...你的數字身份將永遠存在...因為沒有刪除鍵。」
任何政府擁有如此不受監管、不負責任的權力，其後果令人毛骨悚然，因為AI監控為暴君和仁慈的獨裁者提供了最終的壓制與控制手段。
事實上，中毒腐爛共滅國的社會信用體系，根據市民的行為和遵守情況來分配分數，提供了對此反烏托邦未來的瞥見。
這不是對技術本身的戰鬥，而是對其濫用的戰鬥。這是一場爭取我們的人性、尊嚴和自由的鬥爭，在前所未有的技術權力面前。我們的奮鬥是確保AI為我們服務，而不是相反。
面對這一迫在眉睫的威脅，現在就是行動的時刻，在市民和臣民、自由和控制之間的界線變得無法挽回地模糊之前。
自由的未來取決於此。
因此，要求透明度。要求問責制。
要求電子權利法案，保護「我們人民」免受日益擴張的監控國家的侵擾。
我們需要設立保障措施，確保資料所有權和控制的權利（知道他們的資料如何被收集、如何使用、誰能訪問，以及被「遺忘」的權利）；算法透明度的權利（了解影響他們的算法如何做出決策，特別是在貸款申請、招聘和刑事司法等領域），以及正當程序問責制；隱私和資料安全的權利，包括限制政府和企業使用AI驅動的監控技術，特別是臉部識別和預測性警務；數位自我決定的權利（免受基於算法分析的自動化歧視），以及管理和控制個人線上身份和聲譽的能力；以及有效的機制來尋求對AI系統所造成的傷害進行賠償。
如果在沒有任何保護措施的情況下部署AI，來防止過度干預和濫用，特別是在政府機構內，它有可能成為馬斯克所講的「永生的獨裁者」，一個永遠存在且無法逃脫的存在。
無論文明選擇稱之為警察國、陰森國度或監控國家等；這個「永生的獨裁者」將成為政府的未來面貌，除非我們現在就加以制止。
