吳晨/文 《智人之上：從石器時(shí)代到AI時(shí)代的信息網(wǎng)絡(luò)簡史》是尤瓦爾·赫拉利自《未來簡史：從智人到智神》出版八年以來的第一本新書，正好跨越了從2016年AlphaGo擊敗李世石到2024年生成式人工智能大爆炸這兩個(gè)AI大爆炸的時(shí)間點(diǎn)。如果說《未來簡史》還是在AI大爆炸原點(diǎn)所做的暢想，那么《智人之上》可以說是經(jīng)過長時(shí)間參與AI討論與思考之后對未來的分析。

如何從信息的流動和聯(lián)結(jié)的視角去思考未來？為什么秩序與真相經(jīng)常魚和熊掌不可兼得？為什么更多的信息并不會自動指向真相/真理？AI作為會思考和能行動的信息創(chuàng)造者和載體，可能給人類歷史帶來哪些重大變革？赫拉利在《智人之上》中對AI時(shí)代提出了三大問題。

第一個(gè)大問題：為什么可以透過信息來分析歷史、權(quán)力和未來？

赫拉利提出信息的流動和聯(lián)結(jié)是我們理解人類歷史的抓手。要理解這一點(diǎn)，首先我們需要知道什么是信息？什么是信息技術(shù)？為什么信息和信息技術(shù)對我們?nèi)祟惖慕M織至關(guān)重要？

信息一開始是口口相傳的知識，是我們對這個(gè)世界的認(rèn)知和我們自己的感受（也就是客觀存在和主觀認(rèn)知），也可以說是我們對外部世界和外部世界的運(yùn)行規(guī)則不斷構(gòu)建的認(rèn)知模型，一個(gè)外部世界的虛擬分身（衍生到當(dāng)下就是數(shù)字分身的概念）。在此技術(shù)之上我們又開始構(gòu)建一系列新的認(rèn)知，從傳說到故事、從宗教到信仰、從法律到制度，都是我們?nèi)祟愃茉斓囊幌盗腥巳洪g構(gòu)建的認(rèn)知，其主要作用是通過達(dá)成共識來維持人類的秩序，讓人類可以更大規(guī)模地被組織起來。從認(rèn)知和秩序這兩個(gè)視角——而認(rèn)知在科學(xué)思想出現(xiàn)之后又逐漸演化成了我們對真理和真相的追求——分析信息對人類而言具有重大意義。

那什么是信息技術(shù)呢？可以說是信息的載體和傳播方式。語言和文字是最早的信息載體，也是人類之所以成為地球主宰的最重要的發(fā)明。文字所形成的文檔和書則是信息技術(shù)的又一進(jìn)步。文檔第一次創(chuàng)造了獨(dú)立于口口相傳的現(xiàn)實(shí)世界的模擬，甚至在人類歷史的演進(jìn)過程中扮演了越來越重要的角色：從最基本的交易記錄，到維護(hù)商業(yè)的契約，再到法律的條文和判例……字據(jù)和憑證是真實(shí)的驗(yàn)證，在很多情況下更是超越真實(shí)的唯一證據(jù)。

書與文檔最大的區(qū)別不只是書的篇幅更長，更重要在于書是復(fù)制成許多份的文檔，書最早的立意就是為了更好地傳播，而且因?yàn)槊恳环荻际歉北荆_保傳播的訊息一致而不被篡改（當(dāng)然，在印刷術(shù)被發(fā)明并廣為流傳之前，書依賴手抄，紕漏與錯(cuò)誤在所難免）。從這一視角出發(fā)，從猶太教、基督教經(jīng)典形成歷史來理解書的價(jià)值，早期西方的書籍可以等同于經(jīng)典。

作為經(jīng)典的書代表了不容置疑的真相。在信息匱乏的時(shí)代，在大多數(shù)人都愚昧無知，大多數(shù)人都不識字的時(shí)代，經(jīng)典就代表了一種權(quán)威。經(jīng)典有利于塑造一種大多數(shù)人都服從的秩序，也因?yàn)榻?jīng)典的一致性，它可以取代特定個(gè)體成為維持秩序的權(quán)威。但經(jīng)典的問題是無法與時(shí)俱進(jìn)，不可能穿越時(shí)代去解決未來發(fā)生的問題，無法自我修正，所以才會出現(xiàn)經(jīng)典的解釋者。以猶太教為例，后續(xù)出現(xiàn)了解釋經(jīng)書的密釋納和塔木德，也形成了猶太人質(zhì)疑與辯論的傳統(tǒng)。

活字印刷術(shù)在西方的出現(xiàn)帶來了革命性的成果，普及了知識傳播，也讓知識變得更加便宜。赫拉利并不認(rèn)為活字印刷術(shù)本身推動了文藝復(fù)興和科學(xué)的發(fā)展，技術(shù)能幫助傳播科學(xué)和真理，但更容易助長謠言和煽動性文字的傳播。這一特點(diǎn)從報(bào)紙雜志時(shí)代到計(jì)算機(jī)、互聯(lián)網(wǎng)和AI時(shí)代依然如此，因?yàn)?ldquo;壞事傳千里”。

從信息和信息技術(shù)的發(fā)展不難引出第二個(gè)大問題：信息技術(shù)與權(quán)力秩序之間的關(guān)系？

赫拉利在《智人之上》開篇就特別批駁了科技萬能主義者“天真的信息觀”，這一觀點(diǎn)認(rèn)為只要有更多信息人們就能更好地發(fā)現(xiàn)真相，接近真理。他推崇復(fù)雜的信息觀，認(rèn)為信息不僅會帶領(lǐng)我們走近真理，也可能幫助人類塑造秩序，而秩序和真理在很多時(shí)候是魚和熊掌不可兼得，歷史上犧牲真相來維持秩序的例子比比皆是。

在探討真相和秩序在人類歷史上的取舍關(guān)系之前，我們還需要理解信息與信息技術(shù)的演進(jìn)。從歷史發(fā)展來看，人類社會的信息越來越多，尤其是計(jì)算機(jī)和互聯(lián)網(wǎng)發(fā)明之后，呈現(xiàn)出爆炸式的增長。信息技術(shù)也是如此，從印刷術(shù)到電報(bào)、收音機(jī)、電話、電視、計(jì)算機(jī)和互聯(lián)網(wǎng)，人類信息交流也呈現(xiàn)出一種爆炸態(tài)勢。

同樣，站在歷史分析的視角，赫拉利似乎推導(dǎo)出一個(gè)結(jié)論，即信息的匱乏與信息技術(shù)落后所帶來的信息傳播效率低下導(dǎo)致大多數(shù)人類組織都是獨(dú)裁而不是民主的，無論是王國還是帝國。在電報(bào)和火車在中國出現(xiàn)之前，最快的信息傳遞技術(shù)是八百里加急的驛傳系統(tǒng)。

他提出，在信息技術(shù)高度發(fā)達(dá)之前，分布式的民主信息網(wǎng)絡(luò)似乎就是無法與大規(guī)模的社會兼容的。論據(jù)不少，比如在現(xiàn)代之前只有希臘城邦才真正踐行過民主。因?yàn)槊裰鞯膶?shí)踐需要參與和對話，讓更多人對利益相關(guān)的事項(xiàng)參與討論，而且要保證這種討論是高質(zhì)量的而不是雞同鴨講的。這需要至少滿足兩點(diǎn)：一是每個(gè)參與者都要處于彼此的聽力范圍之內(nèi)，可以相互聽見；二是每個(gè)人都必須對自己談?wù)摰膬?nèi)容有基本的了解，需要教育和媒體，讓大家都能對自己從未親身經(jīng)歷的議題有一定理解。換句話說，在一個(gè)大多數(shù)人還是文盲，沒有現(xiàn)代媒體，信息傳遞不便的時(shí)代，只有小國寡民的城邦才可能真正踐行民主。

而在信息匱乏和信息技術(shù)落后的時(shí)代更容易塑造專制的秩序。專制會基于某種故事或者傳說，比如君權(quán)神授，比如天子的天命等等，也會形成一套話語體系、意識形態(tài)來維持秩序，而秩序說白了就是穩(wěn)定，各安其位、按部就班，在一個(gè)巨大規(guī)模上不出現(xiàn)混亂。

當(dāng)然，這種對秩序的追求很可能出現(xiàn)扼殺真相以維持秩序的情況，古今中外這樣的例子數(shù)不勝數(shù)。總體而言會出現(xiàn)三大問題：一是從狐假虎威到指鹿為馬。趙高與秦二世之間指鹿為馬的故事眾人皆知。從信息的視角來分析，當(dāng)趙高壟斷了秦二世的信息渠道，當(dāng)整個(gè)秦帝國的信息都匯總到趙高手中時(shí)，他就成了擁有真正權(quán)力的幕后獨(dú)裁者。羅馬皇帝提比略成了禁衛(wèi)軍隊(duì)長塞揚(yáng)努斯的傀儡也是類似的例子。二是必須應(yīng)對僵化、難以變通的風(fēng)險(xiǎn)。切爾諾貝利核事故是最近的例子。赫拉利2019年參觀核電站時(shí)，烏克蘭的解說員總結(jié)說：“美國人從小相信的是問題會帶來答案，蘇聯(lián)人從小相信的是問題會帶來麻煩。”三是這種秩序還可能培養(yǎng)出奴性、虛偽、對他人的不信任和悲觀。

這種真相與秩序的沖突，我們也可以從短期與長期的角度來分析。

從短期而言，在信息匱乏和信息技術(shù)落后的時(shí)代，獨(dú)裁是一個(gè)更加高效的治理體系。因?yàn)檎莆諜?quán)力的人會是那些知道如何創(chuàng)造意識形態(tài)來維持秩序的人。他們通過虛構(gòu)故事來化繁就簡，避實(shí)就虛。虛構(gòu)的故事要多簡單就可以多簡單，而現(xiàn)實(shí)要復(fù)雜得多。真相常常令人痛苦不堪，虛構(gòu)的故事可塑性更強(qiáng)。早期的意識形態(tài)，無論是宗教還是神話，都有類似的特征。

但從長期來看，這樣的治理體系就會出問題，無論是權(quán)力容易被篡奪——中國歷史上一而再再而三出現(xiàn)的外戚與宦官的問題——還是上面提到的奴性和犬儒。

短期有效而長期失衡的主要原因是系統(tǒng)缺乏自我修正或者糾錯(cuò)的能力。一個(gè)犧牲真相而維持秩序的系統(tǒng)最大的挑戰(zhàn)恰恰是缺乏自我修正能力。

真相與秩序的沖突也體現(xiàn)在科學(xué)的發(fā)展上。赫拉利認(rèn)為，科學(xué)革命的真正引擎是自我修正機(jī)制。科學(xué)鼓勵的是懷疑自己，而陰謀論者常常對眾人既有的共識表示懷疑。自我修正機(jī)制的好處是追求真理、與時(shí)俱進(jìn)，壞處是打破秩序。而科學(xué)機(jī)構(gòu)之所以能夠如此，是因?yàn)榘丫S護(hù)社會秩序的艱巨任務(wù)留給了其他機(jī)構(gòu)和制度。換句話說，如果沒有其他現(xiàn)代制度，比如說法治，科學(xué)也很難獨(dú)善其身。

對科學(xué)的討論進(jìn)一步延伸就變成了如何創(chuàng)新與突破的問題。真正的創(chuàng)新與突破可能一開始是異端邪說，并不為多少人所認(rèn)同，也可能是一連串的失敗。我們也不難發(fā)現(xiàn)，秩序和創(chuàng)新也是一對悖論：秩序強(qiáng)調(diào)的是穩(wěn)定、是服從，很難構(gòu)成創(chuàng)新和突破的土壤；而創(chuàng)新會帶來混亂，也需要一定程度的混亂與打破常規(guī)，通常會挑戰(zhàn)秩序，威脅穩(wěn)定。

回到赫拉利論證的出發(fā)點(diǎn)，如果說專制是因?yàn)樾畔T乏和信息技術(shù)落后，那么隨著信息的爆炸和信息技術(shù)的進(jìn)步，我們是不是就可以自動走向民主？

赫拉利的答案是不一定，因?yàn)樗o民主下了一個(gè)重要的定義，那就是全民有效參與的對話。換句話說，問題就變成了信息爆炸和信息技術(shù)的進(jìn)步是否能夠推動全民有效參與對話？分拆下來就是信息爆炸是否自動能帶來一系列改變，比如教育的提升，全民認(rèn)知的提升，媒體的繁榮，媒體是否能成為普通人沒有親身經(jīng)歷但卻利益攸關(guān)問題的嚴(yán)肅開放的討論場域？抑或，信息爆炸帶來的是更多的噪音和虛假甚至有害信息的泛濫？信息技術(shù)的進(jìn)步強(qiáng)化的是小群體、小圈子的認(rèn)同，是信息繭房，是認(rèn)知的極化？

以美國為例，他悲觀地認(rèn)為，無論現(xiàn)在真正影響美國的對話在哪里進(jìn)行，都絕對不是在國會，而美國民主最大的挑戰(zhàn)則是“人民已經(jīng)失去了傾聽彼此的意愿或能力”。

這就引發(fā)了第三個(gè)連接歷史和未來的大問題：AI將帶來哪些重大變革？

要回答這個(gè)問題，就需要把AI置身于信息與信息技術(shù)發(fā)展的歷史語境中去思考。

首次，以赫拉利對歷史的認(rèn)知，他認(rèn)為新信息技術(shù)的發(fā)明總能促成重大的歷史變革，因?yàn)樾畔⒆钪匾淖饔檬蔷幙椥碌木W(wǎng)絡(luò)，而不是呈現(xiàn)既有現(xiàn)實(shí)。此外，歷史上的信息網(wǎng)絡(luò)往往重視秩序而輕真理。所以，他的潛臺詞是AI同樣會帶來重大的變革，但作為最新的信息技術(shù)它可能也面臨重秩序而輕真理的挑戰(zhàn)。

其次，基于赫拉利對信息多維度的思考，之前我們會問：信息多大程度反映了現(xiàn)實(shí)？是真的還是假的？現(xiàn)在我們更需要問：信息多大程度上聯(lián)結(jié)了人群？創(chuàng)造出什么新的網(wǎng)絡(luò)？更具體地說，AI聯(lián)結(jié)了誰，創(chuàng)造出了什么新的網(wǎng)絡(luò)？

第三，AI與此前的信息與信息技術(shù)有著本質(zhì)的區(qū)別。此前的信息技術(shù)只是成員之間的連接，而在未來的信息網(wǎng)絡(luò)中，AI將是一個(gè)完整的成員。換句話說，這一輪生成式人工智能已經(jīng)可以產(chǎn)出逼真的內(nèi)容，未來AI的大躍進(jìn)會讓它進(jìn)一步成為人類社會對話的參與者。而這種參與是禍，還是福？

結(jié)合以上三點(diǎn)思考，赫拉利眼中AI的未來是灰色的，這種灰色體現(xiàn)在層層遞進(jìn)的三個(gè)方面：

首先，如果就文字、聲音和視頻而言，我們已經(jīng)很難區(qū)分AI與人。AI可能寫出極具說服力的政治宣言，深度偽造圖像與影片，贏得我們的信任與友誼，那怎么辦？如果我們再和一個(gè)假裝成為人的智能體對話，我們會雙輸（輸兩次），與機(jī)器辯論無法說服它，卻讓它更了解我們。現(xiàn)在并沒有特別好的機(jī)制去約束AI制造謊言和謠言，而眼球經(jīng)濟(jì)驅(qū)動的平臺算法一再展示出它的各種問題——比如為了增加社交平臺的粘性和使用時(shí)間，算法會更傾向于撕裂和極端的內(nèi)容，而不是理性的思考。未來如果商業(yè)利益主導(dǎo)AI的進(jìn)步，這種問題會愈演愈烈。

第二，算法面臨一致性問題。只要人類給出一個(gè)特定目標(biāo)，計(jì)算機(jī)就可能竭盡全力，所使用的方法可能出乎意料。當(dāng)AI的智能爆炸式增長，一致性問題帶來的潛在危害也會呈現(xiàn)幾何級的增長。如果我們假設(shè)AI在可預(yù)見的未來還無法形成意識，超乎人類的智能可以讓AI更高效地實(shí)現(xiàn)人類的目標(biāo)，卻無法真正理解人類的意圖。前文所談及的短期與長期、秩序與真相的矛盾，如果無法為高智能的AI所理解，就可能進(jìn)一步被極化，即極度關(guān)注短期而忽略長期，或者為了維持秩序完全罔顧真相。

第三，人工智能不僅快，而且永不停歇。這看起來是優(yōu)勢，其實(shí)也隱含著巨大的風(fēng)險(xiǎn)。因?yàn)槿诵枰袕堄谐冢瑫簧蠙C(jī)器的節(jié)奏，因?yàn)闄C(jī)器也會犯錯(cuò)誤。怎么能讓永不停歇的網(wǎng)絡(luò)走慢點(diǎn)，也讓它有機(jī)會修正自己不斷累積的錯(cuò)誤？

基于這三個(gè)方面，我們再回到AI到底會帶來哪些歷史變革的大命題——它會幫助創(chuàng)建一個(gè)什么樣的新秩序？

赫拉利的擔(dān)憂是“硅幕”（類比冷戰(zhàn)期間的鐵幕）。赫拉利認(rèn)為AI很可能創(chuàng)造的是更為集中的秩序，讓信息和權(quán)力更容易集中于單一樞紐，推動人類進(jìn)入新的帝國時(shí)代。更值得擔(dān)憂的是，它可能讓世界變成平行的數(shù)字世界，使之分屬于敵對的數(shù)字帝國。“硅幕”劃分的世界新秩序有三個(gè)特點(diǎn)：第一，代碼決定你生活在硅幕的哪一側(cè)、被哪些算法控制生活、被誰控制注意力以及你的數(shù)據(jù)流向何方。第二，硅幕兩側(cè)，不僅技術(shù)上越來越不同，在文化價(jià)值觀、社會規(guī)范與政治結(jié)構(gòu)方面差異也越來越大。第三，硅幕兩側(cè)大多數(shù)國家并不會另外自行研發(fā)本地用AI的技術(shù)，而是直接采用硅幕兩側(cè)主導(dǎo)大國的技術(shù)。

最后，讓我們一起回到第一個(gè)大問題“如何從歷史看未來？”

赫拉利本人是歷史學(xué)家加哲學(xué)家，主要修讀中世紀(jì)的歷史，成名之后他有各種機(jī)會去了解AI的變化，也不斷思考AI到底會給人類社會帶來什么樣的改變。在《智人之上》中，他提出用信息產(chǎn)生什么樣的人群，聯(lián)結(jié)這一視角來理解人類的歷史，以此推演出人類歷史是一段真相和秩序平衡的歷史，很有創(chuàng)見。

但他以信息為抓手去分析歷史發(fā)展和前瞻未來，至少在兩方面需要更為深入的探討。

第一，信息作為構(gòu)建現(xiàn)實(shí)世界的模型，在AI時(shí)代會出現(xiàn)哪些突破？歷史上敘事、故事、神話的確重要，但當(dāng)我們可以擁有海量的數(shù)據(jù)，涵蓋實(shí)時(shí)發(fā)生和歷史上積累的數(shù)據(jù)，這樣的數(shù)據(jù)到底能怎么構(gòu)建一個(gè)逼真世界的模擬，乃至于模型？在數(shù)字孿生不斷進(jìn)化的世界中，AI是最為重要的推動力量。顯然需要跳脫民主與專制的單一維度去思考AI會帶來哪些全新的可能性。

第二，雖然他提出了信息建構(gòu)了人群之間的構(gòu)建的認(rèn)知，卻沒有花筆墨去深入分析這些構(gòu)建，比如說法治，比如說建立信任，比如說商業(yè)網(wǎng)絡(luò)。信息之于市場所需要的一系列規(guī)則和制度的發(fā)展同樣作用非凡。

成為一名歷史未來學(xué)家并不容易。鐵幕和“硅幕”的類比是《智人之上》最貼近以史為鑒的地方了，它推動我們?nèi)ニ伎既绾伪苊?ldquo;硅幕”的出現(xiàn)，因?yàn)椴粫卸嗌偃嗽敢庵貜?fù)鐵幕的歷史。

但我們不能忽略市場的發(fā)展，尤其不可忽略晚近出現(xiàn)的富可敵國企業(yè)的發(fā)展。1990年鐵幕落下之后，全球最重要的發(fā)展，除了信息技術(shù)的突飛猛進(jìn)之外，恰恰是富可敵國的平臺型企業(yè)的快速壯大，以及挑戰(zhàn)這些企業(yè)的顛覆力量的層出不窮。AI時(shí)代，這些企業(yè)在技術(shù)應(yīng)用和塑造未來商業(yè)領(lǐng)域會發(fā)揮大得多的作用，他們的選擇至少會影響到“硅幕”的寬窄與高矮。相應(yīng)的，AI的進(jìn)步也會不斷孕育摧毀硅幕的力量。

（作者為財(cái)經(jīng)作家，《經(jīng)濟(jì)學(xué)人·商論》原總編輯，晨讀書局創(chuàng)始人）