AI時代的三大問題

本文來自微信公眾號：經濟觀察報觀察家 （ID：eeoobserver），作者：吳晨（財經作家，《經濟學人·商論》原總編輯，晨讀書局創始人），頭圖來自：AI生成

《智人之上：從石器時代到AI時代的信息網絡簡史》是尤瓦爾·赫拉利自《未來簡史：從智人到智神》出版八年以來的第一本新書，正好跨越了從2016年AlphaGo擊敗李世石到2024年生成式人工智能大爆炸這兩個AI大爆炸的時間點。如果說《未來簡史》還是在AI大爆炸原點所做的暢想，那麼《智人之上》可以說是經過長時間參與AI討論與思考之後對未來的分析。

如何從信息的流動和聯結的視角去思考未來？為什麼秩序與真相經常魚和熊掌不可兼得？為什麼更多的信息並不會自動指向真相/真理？AI作為會思考和能行動的信息創造者和載體，可能給人類歷史帶來哪些重大變革？赫拉利在《智人之上》中對AI時代提出了三大問題。

第一個大問題：為什麼可以透過信息來分析歷史、權力和未來？

赫拉利提出信息的流動和聯結是我們理解人類歷史的抓手。要理解這一點，首先我們需要知道什麼是信息？什麼是信息技術？為什麼信息和信息技術對我們人類的組織至關重要？

信息一開始是口口相傳的知識，是我們對這個世界的認知和我們自己的感受（也就是客觀存在和主觀認知），也可以說是我們對外部世界和外部世界的運行規則不斷構建的認知模型，一個外部世界的虛擬分身（衍生到當下就是數字分身的概念）。

在此技術之上我們又開始構建一系列新的認知，從傳說到故事、從宗教到信仰、從法律到制度，都是我們人類塑造的一系列人群間構建的認知，其主要作用是通過達成共識來維持人類的秩序，讓人類可以更大規模地被組織起來。從認知和秩序這兩個視角——而認知在科學思想出現之後又逐漸演化成了我們對真理和真相的追求——分析信息對人類而言具有重大意義。

那什麼是信息技術呢？可以說是信息的載體和傳播方式。語言和文字是最早的信息載體，也是人類之所以成為地球主宰的最重要的發明。文字所形成的文檔和書則是信息技術的又一進步。文檔第一次創造了獨立於口口相傳的現實世界的模擬，甚至在人類歷史的演進過程中扮演了越來越重要的角色：從最基本的交易記錄，到維護商業的契約，再到法律的條文和判例……字據和憑證是真實的驗證，在很多情況下更是超越真實的唯一證據。

書與文檔最大的區別不只是書的篇幅更長，更重要在於書是複製成許多份的文檔，書最早的立意就是為了更好地傳播，而且因為每一份都是副本，確保傳播的訊息一致而不被篡改（當然，在印刷術被發明並廣為流傳之前，書依賴手抄，紕漏與錯誤在所難免）。從這一視角出發，從猶太教、基督教經典形成歷史來理解書的價值，早期西方的書籍可以等同於經典。

作為經典的書代表了不容置疑的真相。在信息匱乏的時代，在大多數人都愚昧無知，大多數人都不識字的時代，經典就代表了一種權威。經典有利於塑造一種大多數人都服從的秩序，也因為經典的一致性，它可以取代特定個體成為維持秩序的權威。但經典的問題是無法與時俱進，不可能穿越時代去解決未來發生的問題，無法自我修正，所以才會出現經典的解釋者。以猶太教為例，後續出現瞭解釋經書的密釋納和塔木德，也形成了猶太人質疑與辯論的傳統。

活字印刷術在西方的出現帶來了革命性的成果，普及了知識傳播，也讓知識變得更加便宜。赫拉利並不認為活字印刷術本身推動了文藝複興和科學的發展，技術能幫助傳播科學和真理，但更容易助長謠言和煽動性文字的傳播。這一特點從報紙雜誌時代到計算機、互聯網和AI時代依然如此，因為「壞事傳千里」。

從信息和信息技術的發展不難引出第二個大問題：信息技術與權力秩序之間的關係？

赫拉利在《智人之上》開篇就特別批駁了科技萬能主義者「天真的信息觀」，這一觀點認為只要有更多信息人們就能更好地發現真相，接近真理。他推崇複雜的信息觀，認為信息不僅會帶領我們走近真理，也可能幫助人類塑造秩序，而秩序和真理在很多時候是魚和熊掌不可兼得，歷史上犧牲真相來維持秩序的例子比比皆是。

在探討真相和秩序在人類歷史上的取捨關係之前，我們還需要理解信息與信息技術的演進。從歷史發展來看，人類社會的信息越來越多，尤其是計算機和互聯網發明之後，呈現出爆炸式的增長。信息技術也是如此，從印刷術到電報、收音機、電話、電視、計算機和互聯網，人類信息交流也呈現出一種爆炸態勢。

同樣，站在歷史分析的視角，赫拉利似乎推導出一個結論，即信息的匱乏與信息技術落後所帶來的信息傳播效率低下導致大多數人類組織都是獨裁而不是民主的，無論是王國還是帝國。在電報和火車在中國出現之前，最快的信息傳遞技術是八百里加急的驛傳系統。

他提出，在信息技術高度發達之前，分佈式的民主信息網絡似乎就是無法與大規模的社會兼容的。論據不少，比如在現代之前只有希臘城邦才真正踐行過民主。因為民主的實踐需要參與和對話，讓更多人對利益相關的事項參與討論，而且要保證這種討論是高質量的而不是雞同鴨講的。

這需要至少滿足兩點：一是每個參與者都要處於彼此的聽力範圍之內，可以相互聽見；二是每個人都必須對自己談論的內容有基本的瞭解，需要教育和媒體，讓大家都能對自己從未親身經歷的議題有一定理解。換句話說，在一個大多數人還是文盲，沒有現代媒體，信息傳遞不便的時代，只有小國寡民的城邦才可能真正踐行民主。

而在信息匱乏和信息技術落後的時代更容易塑造專製的秩序。專製會基於某種故事或者傳說，比如君權神授，比如天子的天命等等，也會形成一套話語體系、意識形態來維持秩序，而秩序說白了就是穩定，各安其位、按部就班，在一個巨大規模上不出現混亂。

當然，這種對秩序的追求很可能出現扼殺真相以維持秩序的情況，古今中外這樣的例子數不勝數。總體而言會出現三大問題：

一是從狐假虎威到指鹿為馬。趙高與秦二世之間指鹿為馬的故事眾人皆知。從信息的視角來分析，當趙高壟斷了秦二世的信息渠道，當整個秦帝國的信息都彙總到趙高手中時，他就成了擁有真正權力的幕後獨裁者。羅馬占士提比略成了禁衛軍隊長塞揚努斯的傀儡也是類似的例子。

二是必須應對僵化、難以變通的風險。切爾諾比利核事故是最近的例子。赫拉利2019年參觀核電站時，烏克蘭的解說員總結說：「美國人從小相信的是問題會帶來答案，蘇聯人從小相信的是問題會帶來麻煩。」

三是這種秩序還可能培養出奴性、虛偽、對他人的不信任和悲觀。

這種真相與秩序的衝突，我們也可以從短期與長期的角度來分析。

從短期而言，在信息匱乏和信息技術落後的時代，獨裁是一個更加高效的治理體系。因為掌握權力的人會是那些知道如何創造意識形態來維持秩序的人。他們通過虛構故事來化繁就簡，避實就虛。虛構的故事要多簡單就可以多簡單，而現實要複雜得多。真相常常令人痛苦不堪，虛構的故事可塑性更強。早期的意識形態，無論是宗教還是神話，都有類似的特徵。

但從長期來看，這樣的治理體系就會出問題，無論是權力容易被篡奪——中國歷史上一而再再而三出現的外戚與宦官的問題——還是上面提到的奴性和犬儒。

短期有效而長期失衡的主要原因是系統缺乏自我修正或者糾錯的能力。一個犧牲真相而維持秩序的系統最大的挑戰恰恰是缺乏自我修正能力。

真相與秩序的衝突也體現在科學的發展上。赫拉利認為，科學革命的真正引擎是自我修正機制。科學鼓勵的是懷疑自己，而陰謀論者常常對眾人既有的共識表示懷疑。自我修正機制的好處是追求真理、與時俱進，壞處是打破秩序。而科學機構之所以能夠如此，是因為把維護社會秩序的艱巨任務留給了其他機構和制度。換句話說，如果沒有其他現代制度，比如說法治，科學也很難獨善其身。

對科學的討論進一步延伸就變成了如何創新與突破的問題。真正的創新與突破可能一開始是異端邪說，並不為多少人所認同，也可能是一連串的失敗。我們也不難發現，秩序和創新也是一對悖論：秩序強調的是穩定、是服從，很難構成創新和突破的土壤；而創新會帶來混亂，也需要一定程度的混亂與打破常規，通常會挑戰秩序，威脅穩定。

回到赫拉利論證的出發點，如果說專製是因為信息匱乏和信息技術落後，那麼隨著信息的爆炸和信息技術的進步，我們是不是就可以自動走向民主？

赫拉利的答案是不一定，因為他給民主下了一個重要的定義，那就是全民有效參與的對話。換句話說，問題就變成了信息爆炸和信息技術的進步是否能夠推動全民有效參與對話？分拆下來就是信息爆炸是否自動能帶來一系列改變，比如教育的提升，全民認知的提升，媒體的繁榮，媒體是否能成為普通人沒有親身經歷但卻利益攸關問題的嚴肅開放的討論場域？抑或，信息爆炸帶來的是更多的噪音和虛假甚至有害信息的氾濫？信息技術的進步強化的是小群體、小圈子的認同，是信息繭房，是認知的極化？

以美國為例，他悲觀地認為，無論現在真正影響美國的對話在哪裡進行，都絕對不是在國會，而美國民主最大的挑戰則是「人民已經失去了傾聽彼此的意願或能力」。

這就引發了第三個連接歷史和未來的大問題：AI將帶來哪些重大變革？

要回答這個問題，就需要把AI置身於信息與信息技術發展的歷史語境中去思考。

首次，以赫拉利對歷史的認知，他認為新信息技術的發明總能促成重大的歷史變革，因為信息最重要的作用是編織新的網絡，而不是呈現既有現實。此外，歷史上的信息網絡往往重視秩序而輕真理。所以，他的潛台詞是AI同樣會帶來重大的變革，但作為最新的信息技術它可能也面臨重秩序而輕真理的挑戰。

其次，基於赫拉利對信息多維度的思考，之前我們會問：信息多大程度反映了現實？是真的還是假的？現在我們更需要問：信息多大程度上聯結了人群？創造出什麼新的網絡？更具體地說，AI聯結了誰，創造出了什麼新的網絡？

再者，AI與此前的信息與信息技術有著本質的區別。此前的信息技術只是成員之間的連接，而在未來的信息網絡中，AI將是一個完整的成員。換句話說，這一輪生成式人工智能已經可以產出逼真的內容，未來AI的大躍進會讓它進一步成為人類社會對話的參與者。而這種參與是禍，還是福？

結合以上三點思考，赫拉利眼中AI的未來是灰色的，這種灰色體現在層層遞進的三個方面：

首先，如果就文字、聲音和影片而言，我們已經很難區分AI與人。AI可能寫出極具說服力的政治宣言，深度偽造圖像與影片，贏得我們的信任與友誼，那怎麼辦？如果我們再和一個假裝成為人的智能體對話，我們會雙輸（輸兩次），與機器辯論無法說服它，卻讓它更瞭解我們。

現在並沒有特別好的機制去約束AI製造謊言和謠言，而眼球經濟驅動的平台算法一再展示出它的各種問題——比如為了增加社交平台的粘性和使用時間，算法會更傾向於撕裂和極端的內容，而不是理性的思考。未來如果商業利益主導AI的進步，這種問題會愈演愈烈。

第二，算法面臨一致性問題。只要人類給出一個特定目標，計算機就可能竭盡全力，所使用的方法可能出乎意料。當AI的智能爆炸式增長，一致性問題帶來的潛在危害也會呈現幾何級的增長。如果我們假設AI在可預見的未來還無法形成意識，超乎人類的智能可以讓AI更高效地實現人類的目標，卻無法真正理解人類的意圖。前文所談及的短期與長期、秩序與真相的矛盾，如果無法為高智能的AI所理解，就可能進一步被極化，即極度關注短期而忽略長期，或者為了維持秩序完全罔顧真相。

第三，人工智能不僅快，而且永不停歇。這看起來是優勢，其實也隱含著巨大的風險。因為人需要有張有弛，會跟不上機器的節奏，因為機器也會犯錯誤。怎麼能讓永不停歇的網絡走慢點，也讓它有機會修正自己不斷累積的錯誤？

基於這三個方面，我們再回到AI到底會帶來哪些歷史變革的大命題——它會幫助創建一個什麼樣的新秩序？

赫拉利的擔憂是「矽幕」（類比冷戰期間的鐵幕）。赫拉利認為AI很可能創造的是更為集中的秩序，讓信息和權力更容易集中於單一樞紐，推動人類進入新的帝國時代。更值得擔憂的是，它可能讓世界變成平行的數字世界，使之分屬於敵對的數字帝國。「矽幕」劃分的世界新秩序有三個特點：第一，代碼決定你生活在矽幕的哪一側、被哪些算法控制生活、被誰控制注意力以及你的數據流向何方。第二，矽幕兩側，不僅技術上越來越不同，在文化價值觀、社會規範與政治結構方面差異也越來越大。第三，矽幕兩側大多數國家並不會另外自行研發本地用AI的技術，而是直接採用矽幕兩側主導大國的技術。

最後，讓我們一起回到第一個大問題：「如何從歷史看未來？」

赫拉利本人是歷史學家加哲學家，主要修讀中世紀的歷史，成名之後他有各種機會去瞭解AI的變化，也不斷思考AI到底會給人類社會帶來什麼樣的改變。在《智人之上》中，他提出用信息產生什麼樣的人群，聯結這一視角來理解人類的歷史，以此推演出人類歷史是一段真相和秩序平衡的歷史，很有創見。

但他以信息為抓手去分析歷史發展和賽前分析未來，至少在兩方面需要更為深入的探討。

第一，信息作為構建現實世界的模型，在AI時代會出現哪些突破？歷史上敘事、故事、神話的確重要，但當我們可以擁有海量的數據，涵蓋實時發生和歷史上積累的數據，這樣的數據到底能怎麼構建一個逼真世界的模擬，乃至於模型？在數字孿生不斷進化的世界中，AI是最為重要的推動力量。顯然需要跳脫民主與專製的單一維度去思考AI會帶來哪些全新的可能性。

第二，雖然他提出了信息建構了人群之間的構建的認知，卻沒有花筆墨去深入分析這些構建，比如說法治，比如說建立信任，比如說商業網絡。信息之於市場所需要的一系列規則和制度的發展同樣作用非凡。

成為一名歷史未來學家並不容易。鐵幕和「矽幕」的類比是《智人之上》最貼近以史為鑒的地方了，它推動我們去思考如何避免「矽幕」的出現，因為不會有多少人願意重覆鐵幕的歷史。

但我們不能忽略市場的發展，尤其不可忽略晚近出現的富可敵國企業的發展。1990年鐵幕落下之後，全球最重要的發展，除了信息技術的突飛猛進之外，恰恰是富可敵國的平台型企業的快速壯大，以及挑戰這些企業的顛覆力量的層出不窮。AI時代，這些企業在技術應用和塑造未來商業領域會發揮大得多的作用，他們的選擇至少會影響到「矽幕」的寬窄與高矮。相應的，AI的進步也會不斷孕育摧毀矽幕的力量。