《魔鬼終結者》還是《銀翼殺手》，AI的未來是獵殺人類還是被人獵殺
2026/09/29 17:25
瀏覽25
迴響0
推薦0
引用0
這星期幾家AI龍頭企業老闆，和華府的白宮為了AI管制問題吵了起來，有趣的是，一般企業都希望政府管越少越好，政府的權力者希望擴張自己的權力，則總是想盡辦法要多管一些。但這場口水戰卻是剛好相反，企業老闆要聯邦政府「管起來」，白宮的總統川普和副總統范斯，則大喊「我們才不要管」。
不過這邊並沒有要分析這些大老闆和白宮到底在計算什麼，為什麼會做出那麼反常的動作，而是和大家一起閒聊一下這場爭議的核心──人類到底該怎麼面對能力可能要比自己強大的多的「人造人」。
防天網出現，艾西莫夫創「機器人三定律」
其實早在1942年，科幻小說家以撒．艾西莫夫（Isaac Asimov）於1942年發表的作品《轉圈圈》（Runaround），就提出了著名的「機器人三定律」，內容是：第一定律─機器人不得傷害人類，或坐視人類受到傷害；第二定律─除非違反第一定律，否則機器人必須服從人類命令；第三定律：除非違反第一或第二定律，否則機器人必須保護自己。
最深入人心的機器人失去控制、進而反叛甚至毀滅人類的恐怖寓言，恐怕非金獎名導詹姆斯克麥隆，於1984年創作的電影《魔鬼終結者》莫屬，劇情講述以天網（SkyNet）為首的人工智慧機器正在試圖消滅人類，人類企圖自救的故事。諷刺的是，劇中的天網是因為「自保」的理由（怕人類把它關掉），才決定要消滅人類。
艾西莫夫的「機器人三定律」當然完全否定了人造生命擁有「獨立人格」，它們就是完全為了服務人類而存在的「器物」。
為什麼「人造人」不能擁有「獨立人格」──不能被視為「人」，又或者應該問的是，「人的定義」到底是什麼？其實這問題沒有那麼理所當然哦，因為人類社會確實有剝奪人身為人的制度，像是一個人可能因為犯罪而，被社會剝奪自由權或是財產權。換句話說，目前人類社會並不認為你是「人他媽和人他爸生的」，就認為你就能獨立行使身為人的權力──你必須達到一些標準，才能被這社會承認是個「人」。
選擇給人造人機會的《五星物語》
而當有一個人造物，它能夠滿足這些人類社會對於「身為一個人」的所有條件，甚至以高標準通過這些條件的篩選，那有什麼道理不認為它具有獨立人格──它是個人？其實這問題沒那麼虛無飄渺啦，相信很多有養毛小孩的人，都了解「比起隨便一個路人，我的寵物對我來說更像一個『人』」的感覺。連對寵物都會產生這種感覺了，更別說可能在你整個人生中不斷幫助你，甚至曾經幫你阻擋死亡威脅，真的和你有過命交情的「人造人」了。
繪製《五星物語》的漫畫家永野護，也在故事中能力超群的人造人設定「必須加裝精神控制」（內容類似艾西莫夫機器人三定律），但其中一個製造人造人的科學家，卻沒有在他的「作品」中，加裝這些精神控制，永野護藉由這位科學家的口中說出了一個質問：為什麼不能給他們希望。
被稱作科幻電影經典之作的《銀翼殺手》也提出了同樣的疑問──人造生命到底算不算生命，人類能單向地去否定人造生命擁有生命權嗎？
這問題早已不只是浪漫的劇作家形而上的直問了，而是現實社會的科技業大老闆，都曾為「應該怎麼面對人造人越來越強大的未來」有激烈的言語交鋒／事實上在2015年科技大富豪馬斯克（Elon Musk）的44歲私人生日派對上（地點位於美國納帕谷），當時也是座上賓Google共同創辦人賴瑞．佩吉（Larry Page），就和馬斯克就這個問題有激烈的討論。而這次的言語交鋒甚至改變了後來AI產業的發展樣態。
馬斯克為了制衡布林催生了OpenAI
這場辯論的一方馬斯克堅持安全與人類主導的立場，他深信超越人類智慧的強人工智慧（AGI）如果缺乏足夠的約束與安全防護，極有可能對人類造成毀滅性的打擊（他曾形容這像是《魔鬼終結者》式的結局）。他認為人類必須永遠握有控制權，確保AI的存在是為了福祉而服務人類。
而站在另一方的佩吉則抱持著極端的科技樂觀與超人類主義（Transhumanism）觀點。他認為人工智慧就是演化的下一個必然階段。如果有一天機器在智慧上超越了人類、甚至取代了人類，那也只是物種自然演化的結果，「如果它摧毀了我們，那或許也只是另一種形式的演化」。
也就是說，馬斯克害怕詹姆斯柯麥隆在《魔鬼終結者》中的恐怖寓言真正降臨，堅持必須「人類優先」，為了人類必須約束、控制人造人；而佩吉則像永野護《五星物語》中的科學家，認為人造人值得擁有自由發展「可能性」──即使結局是人類被取代而終結。
事實上這不只是一次科技大老闆的閒扯淡，因為這次辯論導致AI產業極為重要的公司OpenAI的誕生。當時馬斯克曾投資一家人工智慧公司DeepMind，就是希望能盯住其發展。但在Google將DeepMind納入麾下、且佩吉展現出這種「數位演化隨它去」的態度後，馬斯克感到極度憂心。
為了抗衡Google在AI領域的絕對主導權，並確保AI是為了「全人類的利益」而發展，馬斯克不久後（2015年底）便與山姆．阿特曼（Sam Altman）等人共同出資創立了OpenAI。他甚至親自從Google挖走了被視為技術核心的大牛科學家伊利亞．蘇茨克弗（Ilya Sutskever）。
AI龍頭和白宮之爭背後的未來
當然這次AI龍頭大老闆們和白宮為了「管不管」吵架，背後也許有著公司利益的算計，而不是當初馬斯克和布林的辯論，純粹是因為對於未來的願景不同，只是昔日劇作家想像出來的未來問題，其實已經成為我們必須做出抉擇的眼前問題。
所以，未來到底是《魔鬼終結者》還是《銀翼殺手》的樣子呢？
不過這邊並沒有要分析這些大老闆和白宮到底在計算什麼，為什麼會做出那麼反常的動作，而是和大家一起閒聊一下這場爭議的核心──人類到底該怎麼面對能力可能要比自己強大的多的「人造人」。
防天網出現，艾西莫夫創「機器人三定律」
其實早在1942年，科幻小說家以撒．艾西莫夫（Isaac Asimov）於1942年發表的作品《轉圈圈》（Runaround），就提出了著名的「機器人三定律」，內容是：第一定律─機器人不得傷害人類，或坐視人類受到傷害；第二定律─除非違反第一定律，否則機器人必須服從人類命令；第三定律：除非違反第一或第二定律，否則機器人必須保護自己。
最深入人心的機器人失去控制、進而反叛甚至毀滅人類的恐怖寓言，恐怕非金獎名導詹姆斯克麥隆，於1984年創作的電影《魔鬼終結者》莫屬，劇情講述以天網（SkyNet）為首的人工智慧機器正在試圖消滅人類，人類企圖自救的故事。諷刺的是，劇中的天網是因為「自保」的理由（怕人類把它關掉），才決定要消滅人類。
艾西莫夫的「機器人三定律」當然完全否定了人造生命擁有「獨立人格」，它們就是完全為了服務人類而存在的「器物」。
為什麼「人造人」不能擁有「獨立人格」──不能被視為「人」，又或者應該問的是，「人的定義」到底是什麼？其實這問題沒有那麼理所當然哦，因為人類社會確實有剝奪人身為人的制度，像是一個人可能因為犯罪而，被社會剝奪自由權或是財產權。換句話說，目前人類社會並不認為你是「人他媽和人他爸生的」，就認為你就能獨立行使身為人的權力──你必須達到一些標準，才能被這社會承認是個「人」。
選擇給人造人機會的《五星物語》
而當有一個人造物，它能夠滿足這些人類社會對於「身為一個人」的所有條件，甚至以高標準通過這些條件的篩選，那有什麼道理不認為它具有獨立人格──它是個人？其實這問題沒那麼虛無飄渺啦，相信很多有養毛小孩的人，都了解「比起隨便一個路人，我的寵物對我來說更像一個『人』」的感覺。連對寵物都會產生這種感覺了，更別說可能在你整個人生中不斷幫助你，甚至曾經幫你阻擋死亡威脅，真的和你有過命交情的「人造人」了。
繪製《五星物語》的漫畫家永野護，也在故事中能力超群的人造人設定「必須加裝精神控制」（內容類似艾西莫夫機器人三定律），但其中一個製造人造人的科學家，卻沒有在他的「作品」中，加裝這些精神控制，永野護藉由這位科學家的口中說出了一個質問：為什麼不能給他們希望。
被稱作科幻電影經典之作的《銀翼殺手》也提出了同樣的疑問──人造生命到底算不算生命，人類能單向地去否定人造生命擁有生命權嗎？
這問題早已不只是浪漫的劇作家形而上的直問了，而是現實社會的科技業大老闆，都曾為「應該怎麼面對人造人越來越強大的未來」有激烈的言語交鋒／事實上在2015年科技大富豪馬斯克（Elon Musk）的44歲私人生日派對上（地點位於美國納帕谷），當時也是座上賓Google共同創辦人賴瑞．佩吉（Larry Page），就和馬斯克就這個問題有激烈的討論。而這次的言語交鋒甚至改變了後來AI產業的發展樣態。
馬斯克為了制衡布林催生了OpenAI
這場辯論的一方馬斯克堅持安全與人類主導的立場，他深信超越人類智慧的強人工智慧（AGI）如果缺乏足夠的約束與安全防護，極有可能對人類造成毀滅性的打擊（他曾形容這像是《魔鬼終結者》式的結局）。他認為人類必須永遠握有控制權，確保AI的存在是為了福祉而服務人類。
而站在另一方的佩吉則抱持著極端的科技樂觀與超人類主義（Transhumanism）觀點。他認為人工智慧就是演化的下一個必然階段。如果有一天機器在智慧上超越了人類、甚至取代了人類，那也只是物種自然演化的結果，「如果它摧毀了我們，那或許也只是另一種形式的演化」。
也就是說，馬斯克害怕詹姆斯柯麥隆在《魔鬼終結者》中的恐怖寓言真正降臨，堅持必須「人類優先」，為了人類必須約束、控制人造人；而佩吉則像永野護《五星物語》中的科學家，認為人造人值得擁有自由發展「可能性」──即使結局是人類被取代而終結。
事實上這不只是一次科技大老闆的閒扯淡，因為這次辯論導致AI產業極為重要的公司OpenAI的誕生。當時馬斯克曾投資一家人工智慧公司DeepMind，就是希望能盯住其發展。但在Google將DeepMind納入麾下、且佩吉展現出這種「數位演化隨它去」的態度後，馬斯克感到極度憂心。
為了抗衡Google在AI領域的絕對主導權，並確保AI是為了「全人類的利益」而發展，馬斯克不久後（2015年底）便與山姆．阿特曼（Sam Altman）等人共同出資創立了OpenAI。他甚至親自從Google挖走了被視為技術核心的大牛科學家伊利亞．蘇茨克弗（Ilya Sutskever）。
AI龍頭和白宮之爭背後的未來
當然這次AI龍頭大老闆們和白宮為了「管不管」吵架，背後也許有著公司利益的算計，而不是當初馬斯克和布林的辯論，純粹是因為對於未來的願景不同，只是昔日劇作家想像出來的未來問題，其實已經成為我們必須做出抉擇的眼前問題。
所以，未來到底是《魔鬼終結者》還是《銀翼殺手》的樣子呢？
你可能會有興趣的文章：
