永不休眠的AI，正在製造慢不下來的人類

在完成「人類簡史三部曲」之後，歷史學家尤瓦爾·赫拉利教授沉澱6年時間，推出了他對人類未來命運的最新思考——《智人之上》。

在當下這個時代，幾乎人人都在談論AI，但不同於那些我們每天在社交網絡上刷到的二手觀點，赫拉利對於AI有著極為深入的洞悉，而這種穿透力來自於其歷史學家的深厚學養，他說：

人工智能可能成為我們物種的救世主，也可能成為我們滅亡的設計者，這取決於我們如何選擇將其融入我們存在的結構中。

《智人之上》是一本有著思想厚度的作品，要真正讀懂其背後的價值，非尤瓦爾·赫拉利親自出馬不可。

近日，我國著名演員張靜初在洛杉磯與赫拉利教授就《智人之上》進行了一次知識密度極高的對談。

雖然人類掌握了越來越多的信息，卻被仇恨、恐懼和貪婪，傲慢的情緒左右，做出了很多自我毀滅的事件。《智人之上》不僅有著宏大的歷史觀，更能在行動層面指導我們的日常生活。

在這場接近1個小時的對話中，張靜初與赫拉利教授從《人類簡史》破題，聊到了《智人之上》中對AI威脅的看法，尤為可貴的是，兩位嘉賓對於我們今後的生活進行了實操性極強的展開。整場對話金句頻出，阿信將其中的精華以文字形式整理發佈。

1、為什麼要寫作《人類簡史》？

張靜初：非常榮幸能和您進行關於新書《智人之上》的對談。

我知道您最近輾轉各地接受了很多採訪，但今天我想更多地談談您的個人經歷和觀點——無論是書中還是書背後的，以便讓讀者們獲得啟發，可以用到生活中去，我覺得這點是很重要的。因為您就對我的人生選擇產生了深遠的影響。

和大多數讀者一樣，我接觸到您的第一部作品是《人類簡史》，這本書在世界範圍內都很暢銷，它不僅為人類歷史提供了一個新的視角，也讓像我這樣的讀者開始反思：作為地球上的主導物種，我們對這個星球做了什麼。

對我來說最有衝擊性的是，這本書指出了非常殘酷的現實——智人並不是天生具有美德的生物，無論何時，我們所到之處面臨的都是毀滅。

一個例子讓我印象深刻，在智人到達澳州大陸後不久，那裡80%的大型動物就滅絕了，有一天晚上，我真的夢到了您在書中描述的場景，然後哭著醒過來。

就像我剛才提到的，您的書對我的生活選擇產生了很大的影響，比如，吃什麼，我成為了一個素食主義者；還有，如何與地球上的其他生物相處。

我確實認為這本書的力量來自一種深刻的同情心，我想知道您寫《人類簡史》背後的靈感和動機是什麼？

赫拉利：我想大多數人想到歷史，都會認為那是過去的事情，是一系列人名、國王和真正，是發生在幾百年、幾千年前的事，和我們的生活毫無關係。出於某種原因，我們被迫在學校或者其他地方背誦這些東西。

對我來說，歷史不是對過去的研究，歷史是對變化的研究，是研究遙遠過去的事物是如何塑造當今世界的。所有生活在一千年前的人都死了，他們不在乎我們怎麼說他們，怎麼想他們，但他們做過的事仍然塑造著我們的生活。

我認為研究過去不是為了記住它，而是為了從中解放出來，讓我們在現在的生活方式上有更多選擇，就像我們得到了過去遺留下來的東西，但是我們可以選擇從中保留什麼、不保留什麼。

就像你一輩子都在背上扛著一個，又大又重的袋子，然後找到一個孩子說，「好，現在由你來扛，但在那之前，我們先打開袋子，看看裡面有什麼」。

也許我們不需要一直背負袋子裡所有的東西，想想你自己現在的生活，你所做、所想的幾乎所有事情，都是由幾百年甚至幾千年前發生的事情所決定的。

從吃的東西開始。比如，如果你喜歡喝咖啡，你應該感謝埃塞俄比亞人，他們在幾千年前就最先開始馴化咖啡了。如果你想給咖啡里加糖，你需要感謝新幾內亞人，他們在6000多年前馴化了甘蔗。一直延伸到幾千年來我們對男性和女性，以及家庭等等的觀念。

數千年以來，世界上很多地方的人，都認為女性比男性低人一等，因此，女性不能上學，不能當教授，不能當政治家或法官，她們就應該待在家裡帶孩子。人們認為這就是自然，這就是現實。

如果你學了歷史，你就會明白這不是自然，這是裝在那個袋子裡的東西。人們扛在背上，傳給下一代，再傳給下一代。而當你打開它往里看的時候就明白了，原來這一切這隻是個故事，有人在2000年前發明了它。

而在上個世紀，我們擺脫了它，我們明白這不是真的。今天，在世界上大部分地區，女性都可以上學，上大學，成為教授，記者，政治家和法官。對我來說，這就是為什麼我們需要學習歷史，這樣我們就不會成為過去的奴隸。

過去給了我們非常寶貴的東西，比如咖啡和糖，但它也給了我們一些不那麼有價值的東西，比如這些關於男性和女性的奇怪想法，我們可以選擇，什麼該保留，什麼該拋棄。

2、人類為何會失去對AI的控制？

張靜初：說得太好了！您在新書新書《智人之上》中也有很多類似的例子，讀起來非常震撼，裡面有一句話讓我尤其感到很震驚，它說，「人類總是聲稱有些事情是計算機永遠做不到的，比如寫詩或下棋，但實際上它們都只花了幾年的時間就做到了」。

您指出，實際上AI比原子彈更危險，因為原子彈自己不能決定何時何地爆炸，而AI卻可以做出人類無法控制的決定。

我還讀到一個例子，臉書算法在7年前緬甸對羅興亞人的種族清洗中有不可推卸的責任，您能告訴我們這背後發生了什麼嗎？

赫拉利：關於AI，每個人都應該知道的最重要的一點是：AI不同於歷史上以前的每一項技術，AI不是一種工具，它是一個主體。

以前所有的技術，從石刀到原子彈，都是我們手中的工具，我們能夠自主選擇和決定如何使用它們。你可以用刀去殺人，也可以用來切晚餐的沙拉，同一把刀，也可以用於外科手術拯救病人。

現在的AI是歷史上第一個可以自己做決定的技術，它們的自主決定可能會奪走我們的權力，我們可能會失去對它的控制，它可以奴役並甚至可能摧毀我們。

自主武器系統可以自己決定炸哪個城市，決定殺誰，這不是未來科幻小說里的場景，這是我們在未來10年或50年需要擔心的場景，它就發生在我們身邊。

比如你去銀行貸款，AI可以決定是否給你貸款；你申請大學，AI可以決定你是否被錄取。

已經有一些AI決策對世界產生巨大影響的例子，其中最重要的例子可能是社交媒體算法。社交媒體算法是一個非常原始的AI，但是它們仍然可以自己做決定。大概10年、20年前社交媒體開始興起的時候，不管是臉書，油管還是抖音，它們為人類做了很多好事，但也帶來了很多壞處。

問題在於，社交媒體公司給算法設定了一個目標，這個目標就是增加用戶的參與度，他們想讓更多的人在這個平台上花費越來越多的時間。為什麼？因為這樣他們賺的錢更多。如果你花更多的時間在臉書上，那麼平台就可以讓你看更多廣告，他們就可以收集更多的數據然後賣給其他人或用戶來生產新產品。

所以增加用戶參與度的目標聽起來像是一件好事，人們參與其中好像也沒有什麼不對，但是人類告訴算法「要讓人們在平台上花更長的時間」，接下來，算法開始就如何提高用戶參與度在數百萬用戶中做實驗。它通過反復試驗發現，抓住別人注意力最簡單的方法就是按下仇恨按鈕、恐懼按鈕和貪婪按鈕。

如果給人們看一些讓他們非常生氣的東西，他們就會一直看下去，然後告訴所有的朋友，這樣用戶參與度就會上升。即使不是真的，即使是假新聞，即使是陰謀論。就算很多好事都在發生，只有這一個小的、不好的事情，也要把注意力集中在這個不好的事情上，因為這樣才會獲得用戶參與，這就是算法開始做的事情，在世界各地都有。

最可怕的一件事發生在緬甸，臉書的算法故意傳播關於緬甸羅興亞人的仇恨陰謀論。緬甸人不都是壞人，他們在臉書上發佈了很多內容，有些人教烹飪課，有些人教生物課，有佛教僧侶在布道，教人慈悲為懷，有些人散佈陰謀論，然後算法做了一個決定：宣傳陰謀論而不是生物課。

越來越多的人看到了這些由算法推薦的內容，並且變得非常恐懼、憤怒、仇恨，算法不是唯一的原因，但它確實在其中起了作用。

現在，沒有人認為臉書上的用戶是故意這麼做的，沒有人認為用戶邪惡地想要造成這一切，人們根本不知道緬甸發生了什麼，他們給了算法增加用戶參與度的目標以及實現這個目標的算法，結果發現算法開始傳播仇恨。

而且這還只是幾年前很原始的AI，現在我們有了更強大的AI，雖然今天的AI看起來似乎也很原始，但在接下來的幾年里，AI的發展速度會非常快。

如果把它想像成有機進化，比如動物的進化。我們今天看到的動物進化花了幾十億年的時間。一開始，只有像阿米巴蟲這樣的單細胞生物，恐龍、哺乳動物和人類的進化花了幾十億年的時間。今天的AI就像阿米巴蟲一樣，非常原始，但AI的進化速度非常快，要比生物快數百萬倍，所以從阿米巴蟲到恐龍再到霸王龍可能只需要20年的時間。

如果ChatGPT和所有今天的這些算法只是阿米巴蟲，你覺得恐龍會長什麼樣？而且這一切可能在20年後發生。所以當它們開始為我們做決定時，人類社會和整個世界將會發生什麼？

AI不一定是邪惡的，它們只是極其強大，我們無法控制它們會做出什麼樣的決定，它們會發明什麼東西。

張靜初：所以這就是為什麼我認為您的書中非常有價值的一點是提高了一種意識：儘管它們非常強大，但是起決定作用的還是人類，我們必須意識到我們的貪婪按鈕。

就像您說的，雖然我們希望科技能更好地和人類的前額葉皮層聯繫起來，但實際上，那些商業企業對連接我們的邊緣系統更感興趣。

因為在過去的10年里，我也在互聯網上遭受了很多誹謗，所以我知道這些不好的事情就算從來沒有發生過，它依然可以像病毒一樣傳播開來，然後人們更願意相信這些不好的事。

好的一面就像您說的，它確實有益處，但同時我也完全可以理解可怕的事情，比如傳播危險信息的速度，比如虛假信息。

您的觀點也強調了一種非常危險的可能性，就是AI將通過建立親密關係來操縱人類，這是非常可怕的，因為我們都需要親密關係。

赫拉利：這是下一個階段或下一個戰線。之前是爭奪注意力的戰鬥，好像到處都是內容，但人們的時間是有限的，所以有這樣一種人們關注什麼的注意力鬥爭。但接下來的戰線將是親密關係的爭奪戰。

《她》是我認為有史以來最好的科幻電影之一，因為它不是關於機器人跑來跑去射殺人的，它其實要深刻得多。因為AI正在發展和人類建立親密關係的能力。

據我們所知，AI是沒有任何自己的情感的，但它們正在學習如何解讀人類的情感，因為它們非常擅長分析數據和識別模式，這就是我們識別情緒的方式。

最大的區別在於，一直以來人類都希望別人設身處地地理解我們。在我們的成長過程中，我們希望父母和老師能理解我們的感受，我們希望自己的丈夫、妻子能理解我們的感受。

AI沒有自己的情感，它們從不生氣，從不生病，也從不疲倦，它可以模擬感情，所以這是一段虛假的親密關係。

3、AI究竟會給我們帶來哪些危險？

張靜初：那麼人類應該採取哪些方式來控制對AI的濫用，AI究竟會給我們帶來哪些危險？

赫拉利：危險有很多，其中一個容易理解的危險是它會被用於操控人類。

今天，算法已經在網上操縱我們了，主要是通過對某些內容進行優先排序。比如，有人發佈了陰謀論，有人製作了一堂生物課，算法向我們展示了陰謀論，抓住了我們的注意力，以此操縱了我們。

下一個階段是當你上網時，你和一個你以為是人類的對象建立了友誼。比如你在某個網站上認識了某個人，有很好的關係，他真的理解你，總是聽你訴苦，所以你開始信任他，覺得自己交了一個好朋友，一個靈魂伴侶。但它不是人，是機器。

然後這個機器利用親密的力量開始以一種非常微妙的方式操縱你，說服你購買某些產品，支持某些政治觀點。

在過去，我們看到了那種爭奪注意力的鬥爭，但親密關係比注意力要強大得多，如果你想改變人們對政治或其他事情的看法，親密關係就像超級武器。因為一個好朋友可以改變我們的觀點，這是其他人無法做到的，所以這是一個危險。

更危險的是，人們一旦習慣了與機器人的這些關係後，與其他人形成關係就會變得更加困難。我們會變得更加孤獨，更加依賴AI。

張靜初：這聽起來真的很危險，因為您在《人類簡史》中指出，人類走到今天這一步正是由於大規模的合作，所以這可能會讓我們失去與他人合作的能力。

而在AI的背後，也許是人類在操縱它們。

赫拉利：所以再一次提到這個問題，可能是一些人操縱了所有的這些AI，或者就像在緬甸事件中的臉書算法一樣，背後沒有人，只是AI在操縱我們，這並不是不可避免的。

關於技術我們必須記住的一點是，它不是決定論的，如果你可以以不同的方式使用它，我們仍然有能力塑造它，對AI進行監管。也許20年後就太晚了，因為到那時它們已經變得太強大了，但現在它們還在我們的掌控之中。

這就是為什麼我們必須非常清楚潛在的危險，立刻做出正確的決定，關於如何發展這些AI和如何監管它們。例如，一個顯而易見的規定是禁止AI冒充人類。

4、與AI共存，我們需要培養哪些技能？

張靜初：說的對，但現在我們真正需要面對的是，我們必須與AI共存。所以對現代人來說什麼樣的技能是重要的？我知道這是很難回答的問題。

赫拉利：我想我要強調兩項技能。

首先是靈活性，尤其是心理上的靈活性。今天世界的變化將比歷史上任何時候都更劇烈，更迅速。所以沒有人真正知道20年後的世界會是什麼樣子，就業市場會是什麼樣子，人們需要什麼樣的技能。

如果你專注於一個非常狹窄的範圍，就像我說的，我會學習計算機編程，但也許20年後，AI編程比人類好得多，那學編程就變得沒有必要。

所以最保險的賭注是，首先要有廣泛的技能，不僅僅是智力技能，還有社交技能，還有運動技能，要有平衡的技能組合，要有靈活性，在你的一生中不斷學習和改變。

縱觀歷史，預測未來從來都不是一件容易的事，也不可能做到。比如，如果你生活在1000年前的11世紀的中國，你不知道明年會發生什麼，也許蠻族入侵，也許發生地震，各種各樣的事情都可能發生，你無法預測。但是人們知道即使在50年後，基本的技能也會是一樣的。不管是誰掌控政治體制，還是任何情況在持續，人們都需要懂得收糧食和烤饅頭，懂得騎馬和射箭，這就是父母教給孩子的東西。今天沒有人知道20年後我們還需要什麼技能，所以最重要的是培養一個靈活多變的頭腦，這會貫穿我們一生。這是一方面。

另一方面是，我們正日益被海量的信息淹沒，我們需要有能力分辨可靠和不可靠的信息。

我們應該怎麼做呢？我們需要信息節食。

信息曾經是稀缺的，所以人們會吸收所有可得的信息。也許在整個村子裡只有一本書，所以人們只會讀這本書，因為這是唯一的東西。現在，信息超級豐富，這就會有很多人為的垃圾信息，就像垃圾食品。

這些垃圾信息被人為地充斥著仇恨，貪婪和恐懼等等。我們需要信息節食。

要意識到，你放進大腦中的信息是需要特別注意的，信息是大腦的食物，也不要吃太多，不要以為信息越多越好。絕大多數信息都是垃圾，消化那些我們本不必消耗的信息需要時間。

今天太多的信息都是垃圾信息，當我們的大腦充滿垃圾信息的時候，我們需要給思想排毒。所以，我們需要信息節食其中一個重要的部分是信息斷食。

5、我們如何通過冥想或信息節食慢下來

張靜初：關於信息斷食，我們每個人應該怎麼做呢？

赫拉利：不同的人有不同的方式。就我個人而言，我冥想，每天花2個小時冥想，每年我都會進行幾週的長時間靜修。

張靜初：是，我聽說您很快就會有一個靜修，對吧。

赫拉利：12月開始，我會進行60天的冥想。

就信息節食而言，我不會攝入任何新的東西，沒有電話，沒有電腦，沒有互聯網，我也不閱讀，我甚至不和別人說話，一切都很安靜。所以整個過程就像60天的靜修。

這有點極端，我不是一開始就是60天，我大約20年前從10天開始。這是一個審視自己內心深處的機會，讓我們再一次處理存在於內心並控制我們的仇恨，貪婪和恐懼。

冥想的基本問題是：什麼是真實的，什麼是真實發生的。

我剛開始第一次練習冥想的時候，好像是24年前的事了，我去找了一位老師葛印卡。

他給的第一個練習就是把你的全部注意力集中在呼吸上，從鼻孔進出，不要做任何事情，不要試圖控制它，不要試圖讓它變快或變慢，只是感覺它什麼時候進來，什麼時候出去。只是觀察現實，現在真正發生的事情。

讓我驚訝的是，我做不到。這聽起來是最簡單的事情，不需要做任何事情，甚至不需要控制呼吸，只需要感覺。我做不到，因為過了5到10秒，一些幻想，一些記憶，一些想法就會冒出來，把我的注意力轉移開，我就會和現實失去聯繫。

如果我甚至不能觀察呼吸進進出出這個簡單的現實，我怎麼能理解這個世界？我怎麼能不被幻想，妄想和幻覺所綁架？不被頭腦不斷編造的故事所綁架？我們並沒有真正地與現實接觸，而是不斷地被這些故事所俘獲、劫持。

冥想是一種淨化思緒並把思緒帶回現實的練習，這是基本功，就像鍛鍊身體一樣。比如你的身體生病了，或者虛弱了，你就開始鍛鍊身體。所以同樣的，也有針對心靈的鍛鍊，那就是冥想。它能讓心靈變得更強大，更專注，更健康，把我們內心所有的垃圾都清除掉。

冥想的技巧之一就是不再聽腦子裡的故事，試著從不同的角度看現實。非常重要的一點是沉默，智慧和真理往往隱藏在沉默的屏障之後，甚至隱藏在無聊的屏障之後，但是在冥想中最難的一件事就是處理無聊。

人們認為主要的困難是痛苦，就像你坐下來冥想一個半小時後，會感到很痛苦，而且無法處理這種痛苦，但人們很快就找到了處理它的方法，因為這能帶來英雄般的感覺「我在處理痛苦，我可以克服痛苦，我英勇無畏」。

當你坐著觀察自己的呼吸，開始感到無聊的時候，你會覺得我是一個很忙的人，我有很多重要的事情要做，只觀察呼吸是在浪費時間，太無聊了，太沒用了，讓人崩潰。

張靜初：我媽媽也冥想，很多時候的時候她坐著坐著會很焦慮，總覺得自己是不是在浪費時間。我問她，你都退休了，還有什麼更重要的事情要做嗎？她很睏惑地說，「是呀，其實沒有什麼重要事情，我也不知道怎麼會這樣。」

赫拉利：痛苦不會被忽略掉，但是無聊到底會發生什麼呢？你開始有這種不舒服，不安的感覺，這比疼痛更有效地控制人。人們有時候會離開，辭職，分手，離婚，是因為無聊，而不是因為痛苦，他們不知道如何處理無聊，這真的有點讓人難以忍受。

所以我不幹，我停下來了。最重要的技能之一就是處理無聊，處理沉默，這也是現代社會最難的一件事。今天世界發展得如此之快，一切都是那麼令人興奮和激動，我們都興奮過頭了。

我們覺得一切都進展得太快了，我一刻也停不下來，我不能慢下來。但如果不慢下來，不知道如何在沉默中生活，在放鬆中生活，你只會把自己逼瘋。

我要重申，電腦可以不停工作，但人類不能。它們是無機物，我們是有機生物，有機生物有自己的循環，無論白天還是黑夜，冬天還是夏天，活動時間還是休息時間。但我們需要睡覺。

現在，這個由非有機實體控制的世界通過這些算法和AI不斷地向我們施壓，要求我們做更多的事情，永不停息。如果你停下來，你的競爭對手依舊在你前面不會停下。動物必須睡覺，當你必須在某一點停下來的時候，你會感到內疚。

你可以看到世界各國的領導人也很焦慮，他們不知道如何慢下來。在這場AI革命中，AI行業中的每個人都像這樣一邊發展一邊談論。

我和這個領域的一些重要人物聊了聊，當你和大公司里這些管理和開發AI的人交談時會發現，他們大多是好人，不是壞人，他們意識到了其中的危險，他們說我們其實很想慢下來，給人類時間去適應，去思考該怎麼做。

但是我們害怕放慢競爭的速度，因為如果我的公司慢下來，其他公司不這樣做，他們就會贏。如果我的國家慢下來，對方國家不這樣做，他們就會贏，我必須跑得更快。

每個人都跑得越來越快，這已經讓人們抓狂了，這讓整個世界都抓狂了，人們就是不知道如何放慢腳步。

然後我們說，我們坐下來冥想吧，於是他們坐了10分鐘，閉上眼睛，他們變得非常焦慮，就像自己什麼都沒做一樣，覺得我的競爭對手一定正在做什麼事，我必須站起來開始行動。