Yuval Noah Harari 是歷史學家與暢銷書《人類大歷史》、《連結》作者，於 2025 年 5 月底在日本東京慶應義塾大學所做講座談到這個問題．他指出，相較於核戰與生物技術，AI 失控的威脅優先順序高得多。他深入探討了 AI 的「異類性」、人類的「信任悖論」、資訊與真相的混淆，以及 AI 對現代戰爭與民主制度的衝擊。

哈拉瑞在 2018 年出版的《21世紀的21堂課》中曾指出核戰、不受控制的生物技術、以及 AI 與資訊技術失控是人類面臨的三大全球威脅。在此次講座中，他將 AI 的威脅置於最高優先順序：

• 迭代速度的降維打擊：生物技術涉及人類基因組的修改，其變革週期漫長，觀察其代際影響可能需要 20 至 40 年。然而，數位進化比有機進化快數百萬倍，AI 模型的迭代只需數天。
• 積極潛力的迷霧：核戰爭不具備任何積極意義，全球對「核戰沒有贏家」有著清晰共識與防備。相反，AI 蘊含著巨大的經濟與科學積極潛力，這使得人們極難預防與理解其潛在的毀滅性風險。

哈拉瑞重新定義了 AI，強調其核心問題不在於它是「人工的 (Artificial)」或「邪惡的」，而在於它的「異類性」。

• 飛機與鳥的隱喻：當被問及 AI 何時能達到人類水平的智能時，哈拉瑞的回答是「永遠不會」。這就像問「飛機何時能達到鳥類的飛行水平」一樣，兩者本質完全不同。AI 是一種非人類、非有機的「異類智能」，它一定會超越人類，但我們無法用人類的心理與演化邏輯去預測它的發展軌跡。

AI 是人類歷史上第一項「具有能動性 (Agency) 且非單純工具」的技術：

• 歷史上的原子彈、印刷機或核反應爐皆是工具，其發電或摧毀城市的權力完全掌握在人類手中，反應爐本身無法自行決定發明下一代技術。
• AI 作為第一個「非有機代理人」，能夠在沒有人類干預的情況下做出決策、發明新武器與軍事策略。這是一次力量與决策權的讓渡。

哈拉瑞在與中美兩國前沿 AI 巨頭（如 OpenAI、微軟、騰訊、百度等負責人）以及主要政治家交流時，發現了一個「瀕臨瘋狂邊緣」的悖論：

1. 為什麼放任競賽，不能放慢？
   • AI 巨頭皆承認超級智能存在著人類滅絕的巨大風險，也願意放慢，但是「不能放慢」。因為各國與企業之間互不信任，一旦己方放慢，冷酷無情的對手就會贏得競賽並主宰世界。因此，「因為無法信任其他人類，所以必須更快發展 AI」。
2. 你們信任正在開發的超級智能 AI 嗎？
   • 這些一分鐘前還聲稱「無法信任同類人類」的人，卻對「信任未知的超級智能 AI」給出了無比肯定的答案。

• 悖論本質：人類擁有數千年建立同類互信與制衡權力（從部落到國家、全球貿易網絡）的經驗，但在面對完全未知的超級智能時，人們卻寧可信任非人類的 AI 代理人，也不願意互信合作。這種「人類信任危機」是 AI 革命變得如此危險的根本原因。

在 AI 與演算法主導的信息時代，哈拉瑞指出教育機構與媒體的任務不再是提供更多資訊，而是教導人們區分可靠與不可靠的來源，因為「真相只是資訊中一個非常罕見的子集」。
真相在資訊競賽中往往落敗，原因有三：

1. 真相是昂貴的，虛構是廉價的：探尋與核查事實需要耗費時間、精力與金錢；而虛構、謊言只需動腦編造，近乎零成本。
2. 真相是複雜的，虛構是簡單的：現實充滿複雜的脈絡與折衷（例如量子物理），而大眾偏愛簡單的故事；虛構可以被塑造成最簡單易懂的敘事。
3. 真相常是痛苦的，虛構是動聽的：真相（無論是個人痛苦記憶還是國家的黑歷史）常令人不適，需要勇氣去承認；虛構則能被隨心所欲塑造成安撫人心的故事。

哈拉瑞嚴厲抨擊社交媒體巨頭混淆「言論自由 (Freedom of Speech)」與「資訊自由 (Freedom of Information)」：

• 言論自由：是一項賦予人類的崇高權利，應受保護。
• 資訊自由：是一項賦予 AI、演算法與機器人的權利。
• 社交平台的法律責任：平台真正的問題不在於人類編造謊言，而在於平台的演算法為了追求商業利潤，主動向數百萬人推薦與推播謊言、陰謀論與仇恨言論。演算法不是人，沒有人權，這類傳播行為不受言論自由保護。社交媒體公司應承擔類似報紙與電視台的內容審查責任。

AI 正在以非直觀的方式重塑戰爭：

• 戰爭的殺戮本質未變，但「決定轟炸誰、誰是目標」的決策權正在移交給 AI。
• 過去人類情報官需要花費數天分析和確認目標，現在 AI 可以在幾秒鐘內處理海量情報並指出轟炸目標。
• 雖然目前名義上仍有人類分析師進行複核，但在海量數據面前，人類的複核往往流於形式（只花數十秒點擊同意），實質上決策權已由 AI 掌控。這將帶來極大的誤判與人道災難風險。

哈拉瑞指出，「精英」與「人民」的對立往往是政客爭奪權力的錯誤二分法（如億萬富翁聲稱反精英的矛盾現象）。

• 社會中總會有部分人在特定領域更有影響力與才華（這是社會本質）。
• 高等教育（如慶應大學等）的目標不應是摧毀精英，而是培養「服務型精英」而非「自私型精英」，引導有影響力的人將權力與才華用於社會的共同福祉。