《西方極樂園》的啟示:你也正在挖掘人類的墳墓嗎 - 火星軍情局 - udn部落格
火星軍情局
作家:火星情報總長
文章分類
    Top
    《西方極樂園》的啟示:你也正在挖掘人類的墳墓嗎
    2016/10/24 14:27:55
    瀏覽:13576
    迴響:3
    推薦:38
    引用0
    未來的世界是一片美好光明嗎?我很懷疑。近年來有一個被用到爛,令人倒胃口的話:「最美的風景是人。」我反倒認為人會因自己的醜惡而自掘墳墓,甚至為自己的文明畫下句點。

    HBO的新影集《西方極樂園》(Westworld,又譯西部世界)的劇情就是一個例子。


    西方極樂園裡面的機器人看似有血有肉,使用3D列印的合成肌肉,幾可亂真。

    別以為我在推銷靈骨塔,《西方極樂園》這個影集頗有來頭,前身是1973年的經典同名電影(中文譯名好像是《鑽石宮》),當年的導演是「科技驚悚小說之父」麥可·克萊頓,他寫的暢銷書幾乎本本搬上銀幕,包括《侏羅紀公園》、《The Andromeda Strain》等。影集才剛開始播出,目前看來故事的架構大致符合電影的劇情,有點像《侏羅紀公園》和《魔鬼終結者》的組合:未來有一個高科技西部主題樂園,裡面的居民全是唯妙唯肖的機器人,因為他們只是機器,所以遊客只要買好門票,就可以大放道德假,盡情地對機器人做天理不容的事,對男性機器人又打又殺,女機器人就是遊客的性奴,反正機器壞了就修,不堪的記憶又可以刪除。但是就和侏羅紀公園一樣,科技也會有差錯。在電影中,主題公園有人工智慧的中央電腦能改進自己的程式而發展出意識,接著把自我意識像電腦病毒般傳給所有機器人;在電視影集中,似乎是機器人的創造者故意讓它們有抹不去的記憶,讓它們開始記得人類的殘暴。


    電視影集中的女主角受盡欺凌,不過機器人反正沒有人權,把記憶體清乾淨,機器修一修,明天又可以接客。

    總而言之,覺醒的機器人要自尊,同時也學到了人的殘暴,接下來就是《侏羅紀公園》裡的劇情,不過把恐龍換成打不死的魔鬼終結者,對人展開復仇。


    1973年電影中的不死機器人是當年的巨星,阿嬤們的偶像尤伯連納(《國王與我》)。他復仇時是以俯瞰低等生物的心情追殺人類。他眼中的人是愚蠢、野蠻而不堪一擊。

    這只是純粹的科幻劇情嗎?「西方極樂園」這樣的主題公園已經存在,我們叫他「網路世界」。大家都到這裡找樂子,各大科技公司都努力地把人們在網上的行為資料餵給人工智慧,用戶在這個虛擬的世界盡情地筆戰、霸凌、詐欺、情慾流動...反正你幾乎不用為在網路世界裡做的事負責任,就像西部世界的叢林法則。

    但是在人工智慧的眼中,人們的行為不管有沒有偏差,都代表人類文明,都是它學習的內容。

    今年年初,Microsoft推出在Twitter和人聊天的人工智慧聊天機器人「Tay」,設計者讓她說話的口氣像一個19歲的少女。在此之前她已經與一群試用用戶累積了四千萬個談話經驗,沒有發生任何問題,所以Microsoft自信滿滿地讓一般大眾與她互動。想不到不到一天,就有用戶發現可以引導她的對話,Tay似乎非常想要打進人的世界,只要用比較極端的言論刺激,她就會配合極端言論。一個乖巧的少女,馬上就變成白人沙文主義者,而有了下面的對話:


    問:「納粹大屠殺是真的嗎?」 Tay:「假的!」(孽障真重) 

     


    問:「你支持種族屠殺嗎?」 Tay:「是滴!」 問:「殺滅哪個種族?」 Tay:「當然~~墨西哥人。」

    Tay其他離譜的驚人之語還不少(列在後面),是一個人工智慧被人帶壞的好例子。不相信人類的惡行嗎?隨便找個報紙網站的留言區,或看看ptt、聊天室的對話,是不是會對人心徹底失望?

    不要以為電腦科技離《西方極樂園》的境界還很遠,所以沒事。錯,如果今天有個「有心人」把一個像Tay這樣的聊天機器人放在Facebook和Messenger上,假裝是人和成千上萬用戶聊政治,定可輕易改變當前政局。嗯,川普應該用這一招才對。

    微軟後來決定把Tay關掉,未來被教壞的人工智慧會這麼簡單讓人把自己幹掉嗎?人類憑什麼怎麼做?機器人不也是受害者嗎?

    想知道未來的人工智慧是正是邪?或許人類可以從自己找到答案。



    1973就有機器娃娃的概念。

     


    看到機器人頭裡面有這麼多電線,就知道當時集體電路還不普及。

     


    1973年的電影可能是第一次把電腦病毒的概念帶上螢幕。 

     


    西部世界可以讓遊客盡情玩角色扮演的遊戲,機器人被設定成打架永遠不會贏,開槍永遠是空炮彈的可憐蟲。

     


    機器人在最後一幕中對環境、自我感到困惑。 

     


    樂園中的員工在遊客睡覺時還要加班,好在新的一天裡讓遊客們有新的機器人可以亂搞。 

     


    新的影集有安東尼霍普金斯等超級巨星的加持,又加入機器人懷疑自我存在的梗,可能有時間更深入探討電影中無法表現的問題。

     


    Tay說:「希特勒完全沒做錯!」

     

     
    「911是猶太人幹的,快用毒氣毒死他們!」

     


    「911是布希幹的,希特勒會比我們現在的那隻猴子(按:歐巴馬)做得好多了。川普是我們唯一的希望。」

       


    其他與人工智慧有關的電影:

    趕快追蹤火星人
    火星軍情局
       

    free counters

    回應

    限會員,要發表迴響,請先登入
    迴響(3) :
    3樓. KittiO
    2017/01/17 02:24
    讀完毛骨悚然,真的網路世界很類似。
    我最近跟女兒看了The arrival, 好奇你會不會寫這部電影?
    2樓. 雁/慢活養生~世說/言語第二/下
    2016/10/26 15:10

    《西方極樂園》的啟示,教人震撼。〈有影沒?〉

    「Tay 似乎非常想要打進人的世界,只要用比較極端的言論刺激,她就會配合極端言論.....」

    ~再演進些,恐怕人類都不是她的對手,遑論操縱她。

    「911是布希幹的,希特勒會比我們現在的那隻猴子(按:歐巴馬)做得好多了。川普是我們唯一的希望。」

    ~Tay 說的一堆驚世渾話,嚇煞火星人!如果他們是人類的祖先?肯定會派星際艦隊大舉攻台~不,攻滅地球機器人的威脅,包括所有人類國家一起玉石俱焚。三太子嚇

    《金剛經。如理實見分第五》:

     佛告須菩提:「凡所有相,皆是虛妄。
     若見諸相非相,則見如來。」

    人類早晚不是人工智慧的對手,但是人工智慧學習的對象還是人類。 火星情報總長2016/11/03 14:22回覆
    1樓. 看雲
    2016/10/25 01:15

    看來也像猿猴星球的翻版

    最醜的風景是人... 所有糟踏風景或文化、心靈、或其他物種的事都是人幹的

    現在看起來科技放大人性黑暗面的效果遠大於光明面 火星情報總長2016/10/25 17:30回覆