經過一段時間之後，你的認路、找路能力就喪失了，即使你還想這樣做。在北京這樣的空間找路、認路，今天我們靠機器，二十年以後我們在自己的人生當中碰到了這樣的十字路口要做決策的時候，很多人會用智能手機、人工智慧來做決定，他們會告訴你該怎麼做。

3

人工智慧產生的革命性影響

隨著人工智慧變得越來越好，有可能人工智慧會把人從就業市場當中擠出去，對於整個社會的經濟和政治都產生革命性的影響。

今天交通事故當中人是主要的因素，有了人工智慧就不會有這樣的問題。自動駕駛的汽車永遠不會喝酒，自動駕駛的汽車也不會在開車的時候睡著了，也不可能在開車的時候接打電話，這樣自動駕駛汽車就能替代人員駕駛員的作用。

不光是公車司機，甚至是醫生這個工作都會發生變化。普通醫生的知識和能力是有限的，不可能每天都在更新知識，不可能一個人知道全世界所有的疾病藥物和研發結果。但是對於人工智慧來說這都是無可限量的，可以收集資訊分析資訊，熟知全世界所有疾病，能夠24小時不間斷地跟蹤一個患者。

此外，人類醫生怎麼培訓？可能需要八年大學碩博連讀，臨床實習之後才會培訓出一個合格的醫生來。但人工智慧只要技術上實現一次突破，你拿到的不是一個機器醫生而是無窮多的人工智慧醫生，他們可以被複製。

這個比培訓人類醫生要效率高得多，雖然一開始要花數百萬億美元研發，但是一旦研發出來就可以無窮複製。

4

最大風險：人工智慧造就無用階層

隨著技術發展我們可以用機器替代計程車司機、醫生以及其他職業，人工智慧逐步都可以替代，這時候出現一個非常大的人類社會學問題。

《機械姬》劇照

正如第一次工業革命使得城市無產階級出現，人工智慧的出現會出現一個新的階層，就是無用階層。數以億計的人將找不到工作，他沒有辦法和電腦人工智慧競爭，對這些人來說他已經喪失了經濟的價值，沒有經濟價值也就沒有政治權力，這會對社會、政治、經濟方面產生巨大的問題。

我們可以說人會自己不斷地學習，不再需要卡車司機、計程車司機，會有新的職業。你想一下一個50歲的計程車司機失業之後，他有多大能力去培養自己？對於50歲的計程車司機來說，他要重新培養自己的能力，這樣就太晚了。

這樣的革命非常危險，它會從根本上改變我們的教育體系。事實上我們沒有人能夠描述三十年後、二十年後的就業市場，換句話說我們現在的教育系統沒有辦法瞭解今天應該教我們的孩子什麼。今天我們的孩子在學校裏面學到的所有知識二三十年後完全無用，我們不知道現在應該教他們什麼，才能夠讓他們在二三十年後找到工作。

即使我們會產生新的工作，二三十年後可能產生新的工作，但是今天孩子到那天是不具備那些新工作的就業能力的。那麼這個時候出現了數百萬、數千萬甚至上億失業人口，他們喪失了經濟價值，這會產生進一步威脅。

《攻殼機動隊》劇照

人類未來的精英階層是否還會有動力照顧那些弱勢群體？未來如果人工智慧替代人類，他可以替人去打仗、去做工，這樣國家精英階層就沒有動力去投資醫療教育，幫助弱勢群體。

人類社會會分成兩大階層，非常少的精英階層，就像上帝一樣，他們在創造大量的人工智慧，絕大部分人將變成沒有任何經濟價值任何無用的階層。這是21世紀最大的風險。

5

智能和意識之間究竟有什麼區別？

最後一點在我結束演講之前，這也是非常重要的一點：有很多關於人工智慧的討論，但是也有很多關於人工智慧究竟意味著什麼的迷惑和疑問。智能和意識之間究竟有什麼區別，很多人迷惑。

智能是解決問題的能力，比如我們診斷一個疾病，或者找到某一個疾病的治療方法，這是智能。但是人類的意識是感受某一種外界的能力，你的情緒、你的感情、你的痛苦、愉悅、愛等等。

很多科學的科幻小說或者其他科幻電影中，我們經常看到人工智慧逐步產生了意識，機器人電腦變得非常智能，同時獲得了意識和情感，機器人會變得非常憤怒，他想殺掉所有的人類。

但它不是科學只是科幻，科學告訴我們智能和意識是完全不一樣的兩個東西。到目前為止，我們電腦或者人工智慧發展到今天，智能水準在不斷提高，但是人工智慧的意識還是零。換句話說：我們現在沒有任何指標證明或者任何跡象表明，電腦和人工智慧在未來能獲得這種意識。

電腦只是以一種完全不同的方式在工作，和人類其他的哺乳動物完全不一樣，這是我們面臨的風險，或許是最大的風險。

上億年的生命通過我們的意識不斷摸索，慢慢演變到今天的智能狀況，速度是非常慢的，演變需要數百萬年的時間。突然有一個電腦突然殺出來，他們用完全不同的路徑、方式，完全不同的發展模式，超級的智能在趕超有機的生命體。他們智能的進化和演變速度比我們快得多，他們的發展演變比我們快得多，他們會控制整個世界甚至宇宙，但是沒有意識。

我講的東西不是一個寓言。人工智慧的技術毫無疑問會改變我們的世界，但是我們未來的社會究竟怎麼樣？這會有很多選擇，而不是完全由技術來決定的，一切都懸而未決。如果大家不喜歡我剛才描述的這個世界，大家仍然可以用自己的行動去改變決定未來世界的形態，去消除風險，發揮技術好的那一面。

最後我想講的就是：當你作為一個個人，一家企業、政府部門，或者作為精英階層，我們在做人工智能的時候，做各種各樣決定的時候，一定要注意人工智慧不僅僅是單純的技術問題，同時也要注意到人工智慧以及其他技術的發展，將會對社會、經濟、政治產生深遠的影響。

我們一定要注重人工智慧技術層面的問題，還要嚴密關注人工智慧的發展對社會可能產生的影響。因此，我們在投資與技術發展的時候，還要投入於社會影響的研究。謝謝。