“I will be back!”，魔鬼阿諾真的又回來了。《魔鬼終結者》系列電影中人類創造的人工智慧電腦「天網」發展出自己的意識，決定毀滅人類。電影中有核子大屠殺，也有機器人拿著機關槍追殺人類，還穿越時空到過去只為了暗殺弱女子。那是電影，但是現實世界的電腦越來越厲害，它們會取代人類，帶來大災難嗎？

---

人工智慧是福是禍？

沒人知道這是否會發生、何時發生、或如何發生，有人認為人工智慧進步到有自我意志、會自我進化時，人類不能再控制電腦，而且電腦控制下的世界的變化將遠超過人腦所能理解，那時候就可能導致人類文明的毀滅。我不太相信電腦奴役、消滅人類的科幻情節會真的發生；但別高興太早，因為一不小心電腦還是可能把人類文明打回石器時代！

你對我說的嗤之以鼻？我是有證據的——您可知道數年前電腦真的差點就重創了世界？

---

2010年的「審判日」

先問個問題：你多久買賣一次股票？每月，還是每天？國際股市有一種做「高頻率交易」（High-frequency trading）的公司，用電腦快速分析股市走勢，並迅速自動買賣。既然叫「高頻率」，到底速度有多快？較新的資料估計單台電腦只要數萬分之一秒就可算出最佳買賣組合且完成交易，只要你比別人快，就幾乎等於預知未來一秒內的漲跌，穩賺不賠。即使每次交易只賺一毛錢，但是每一秒鐘交易數萬次，一天下來也相當可觀，美國華爾街每天交易量超過50%是這樣這樣來的。

聽起來好像不錯⋯一直到2010年的5月6日。

那一天的華爾街本來就被希臘的債信危機壓得烏雲密佈（希臘，又是你！），紐約下午2:30已經下跌了2.5%。忽然賣壓湧現，美國的新聞名嘴還在爭論歐洲局勢時，主播忽然發現股價指數已跳下懸崖的，叫道：「你看，股市怎麼跌破5%？趕快切入華爾街現場！」現場記者：「已經跌了五百多點，創下近年單日最大跌幅...」（字幕卻經寫著“－635點，－5.8%”），背後傳來交易所現場的尖叫，只見下跌速度愈發加快。

兩分鐘後又下跌了500點，沒人知道發生了什麼，很多人連跟著拋售手上的股票的機會都沒有。不過一段去上廁所的時間，道瓊指數跌了將近1000點，9%。

2點45分28秒，芝加哥的交易所啟動緊急跌停措施，暫停交易五秒鐘，重新開始後股市奇跡似的開始迅速反彈，當日4:00收盤時「只」下跌了350點。

這個事件現在叫「2010閃電崩盤」（2010 Flash Crash）或是「那個2:45的閃電崩盤」（The Crash of 2:45）。美國證交會對此調查了數個月後，發現它是肇因於一家高頻交易電腦脫手大量持股時賣得太快，竟然觸發其他高頻交易電腦的連鎖反應，雪球越滾越大，最後所有電腦乾脆帶著資金全部離開市場，造成股市崩盤。

如果那一天的崩盤沒有快速復原，或是正好發生在收盤前，使當日收盤價慘跌，接著要開盤的亞洲股市必定首當其衝，加上當時本來就悲觀的市場氣氛，恐怕會將全球經濟帶入大恐慌。你今天有閑情坐在電腦前，沒有變成街友，運氣不錯喔。

---

如果未來的人工智慧帶來災難

你可能會說這個「閃電崩盤」和世界末日的程度還差很多，這些電腦沒有人工智慧，股市有跌停版就好了。我一開始就說人工智慧未必會毀滅人類，不過請注意，人們的生活越依靠電腦，電腦就越能輕易帶來嚴重的災害。你看你四周：股市、銀行、電力輸送、交通、通訊、和網路本身，哪一個不和你息息相關？電腦系統只要能控制經濟、民生，不需要掌握原子彈，也能造成相當的毀害。

從這個「閃電崩盤」的過程，我們可以依稀看見未來人工智慧可能帶來的災害：

1. 不需要邪惡的電腦才能造成災害
   電腦不需要有任何情緒或欲望，只要電腦的主人粗心、貪婪、甚至邪惡...就足夠引發災難。不要怪電腦，而該怪人類自己。
2. 能改變世界的電腦資源只由少數人操縱
   你以為你口袋中所謂的「人工智慧」App是在為你服務嗎？錯了，他們最終是為了Google，Facebook等公司收集資料，讓他們的人工智慧更聰明，更能夠掌握你。就像是「高頻交易」的高性能電腦是少數人賺錢的工具。人工智慧會讓貧富差距更懸殊！
3. 災害的速度和幅度可能大的讓人無法理解
   那崩盤的15分鐘的海量資料夠讓政府、民間的學者研究好幾年，當時身歷其境的人們還沒來得及意會災難就結束了。
4. 電腦彼此競爭
   電影中只有一個邪惡的電腦毀滅世界，真實世界中卻因為商業、軍事的原因，會有數個電腦系統彼此競爭。強大的電腦會帶來巨大利潤，不太可能由一個國家或公司完全獨佔。不過這對人類未必是件好事，因為不論是哪一台電腦贏，都是人類輸，就像是2010閃電崩盤，每一台電腦都在比誰脫手快，結果造成崩盤。

你說我危言聳聽，覺得這是科幻電影的情節？人類科技離這一天很遠？我只好借用比爾蓋茲的話：「搞不懂，怎麼有人不擔心人工智慧可能的威脅呢？」其實問題不在於電腦，而是在電腦的主人，和沒有電腦就活不下去的你。如果你仍然鐵齒不相信人工智慧可能帶來的問題，認為這是下一代才需要擔心的事情，那麼結果可能是：不需要有「天網」這個等級的超強電腦，也可以把人類文明打回石器時代。

---

下面的影片是當時MSNBC財經節目的錄影，可以看到那慌亂的幾分鐘，畫面中的記者、名嘴回神的時候幾乎已經改朝換代了。

其他和人工智慧有關的電影：

• 人工智慧贏了圍棋，然後呢
• 你愛上了你的《雲端情人》嗎
• 人工智慧將使人類滅絕嗎？看看《巨人：福賓計劃》怎麼說
• 《戰爭遊戲》的回憶：原來古時候的電腦長這樣
• 登峰造極的《模仿遊戲》：當機器變成人類
• 從《復仇者聯盟2：奧創紀元》學設計人工智慧

參考資料：

What Computer-Powered High Frequency Trading Looks and Sounds Like, Motherboard, February 11, 2013

Physics in finance: Trading at the speed of light, Nature, 11 February 2015

十分鐘快速了解高頻交易, 9/23/2014 幣圖誌