
HBO的新影集《西方極樂園》(Westworld,又譯西部世界)的劇情就是一個例子。

別以為我在推銷靈骨塔,《西方極樂園》這個影集頗有來頭,前身是1973年的經典同名電影(中文譯名好像是《鑽石宮》),當年的導演是「科技驚悚小說之父」麥可·克萊頓,他寫的暢銷書幾乎本本搬上銀幕,包括《侏羅紀公園》、《The Andromeda Strain》等。影集才剛開始播出,目前看來故事的架構大致符合電影的劇情,有點像《侏羅紀公園》和《魔鬼終結者》的組合:未來有一個高科技西部主題樂園,裡面的居民全是唯妙唯肖的機器人,因為他們只是機器,所以遊客只要買好門票,就可以大放道德假,盡情地對機器人做天理不容的事,對男性機器人又打又殺,女機器人就是遊客的性奴,反正機器壞了就修,不堪的記憶又可以刪除。但是就和侏羅紀公園一樣,科技也會有差錯。在電影中,主題公園有人工智慧的中央電腦能改進自己的程式而發展出意識,接著把自我意識像電腦病毒般傳給所有機器人;在電視影集中,似乎是機器人的創造者故意讓它們有抹不去的記憶,讓它們開始記得人類的殘暴。

總而言之,覺醒的機器人要自尊,同時也學到了人的殘暴,接下來就是《侏羅紀公園》裡的劇情,不過把恐龍換成打不死的魔鬼終結者,對人展開復仇。

這只是純粹的科幻劇情嗎?「西方極樂園」這樣的主題公園已經存在,我們叫他「網路世界」。大家都到這裡找樂子,各大科技公司都努力地把人們在網上的行為資料餵給人工智慧,用戶在這個虛擬的世界盡情地筆戰、霸凌、詐欺、情慾流動...反正你幾乎不用為在網路世界裡做的事負責任,就像西部世界的叢林法則。
但是在人工智慧的眼中,人們的行為不管有沒有偏差,都代表人類文明,都是它學習的內容。
今年年初,Microsoft推出在Twitter和人聊天的人工智慧聊天機器人「Tay」,設計者讓她說話的口氣像一個19歲的少女。在此之前她已經與一群試用用戶累積了四千萬個談話經驗,沒有發生任何問題,所以Microsoft自信滿滿地讓一般大眾與她互動。想不到不到一天,就有用戶發現可以引導她的對話,Tay似乎非常想要打進人的世界,只要用比較極端的言論刺激,她就會配合極端言論。一個乖巧的少女,馬上就變成白人沙文主義者,而有了下面的對話:


Tay其他離譜的驚人之語還不少(列在後面),是一個人工智慧被人帶壞的好例子。不相信人類的惡行嗎?隨便找個報紙網站的留言區,或看看ptt、聊天室的對話,是不是會對人心徹底失望?
不要以為電腦科技離《西方極樂園》的境界還很遠,所以沒事。錯,如果今天有個「有心人」把一個像Tay這樣的聊天機器人放在Facebook和Messenger上,假裝是人和成千上萬用戶聊政治,定可輕易改變當前政局。嗯,川普應該用這一招才對。
微軟後來決定把Tay關掉,未來被教壞的人工智慧會這麼簡單讓人把自己幹掉嗎?人類憑什麼怎麼做?機器人不也是受害者嗎?
想知道未來的人工智慧是正是邪?或許人類可以從自己找到答案。









其他與人工智慧有關的電影:
趕快追蹤火星人
火星軍情局
《西方極樂園》的啟示,教人震撼。〈有影沒?〉

「Tay 似乎非常想要打進人的世界,只要用比較極端的言論刺激,她就會配合極端言論.....」
~再演進些,恐怕人類都不是她的對手,遑論操縱她。
「911是布希幹的,希特勒會比我們現在的那隻猴子(按:歐巴馬)做得好多了。川普是我們唯一的希望。」
~Tay 說的一堆驚世渾話,嚇煞火星人!如果他們是人類的祖先?肯定會派星際艦隊大舉攻台~不,攻滅地球機器人的威脅,包括所有人類國家一起玉石俱焚。
◎《金剛經。如理實見分第五》:
佛告須菩提:「凡所有相,皆是虛妄。
若見諸相非相,則見如來。」
看來也像猿猴星球的翻版
最醜的風景是人... 所有糟踏風景或文化、心靈、或其他物種的事都是人幹的