陳永偉/文  

奇點(diǎn)：從科幻到現(xiàn)實(shí)

在經(jīng)歷了兩年的“跳票”之后，雷·庫(kù)茲韋爾（Ray　Kurzweil）的新書《奇點(diǎn)更近》（The　Singularity　is　Nearer）終于在六月底上市了。作為庫(kù)茲韋爾的書迷，我第一時(shí)間找來了新書的電子版，并一口氣將其讀完了。

在書中，庫(kù)茲韋爾向讀者展示了一個(gè)重要的經(jīng)驗(yàn)規(guī)律：信息技術(shù)的發(fā)展速度按指數(shù)規(guī)律進(jìn)行。按照這一速度，人們處理信息的技術(shù)能力每年都在翻番。作為信息技術(shù)的最典型代表，人工智能（Artificial　Inteligence，以下簡(jiǎn)稱AI）的發(fā)展更是令人驚嘆。根據(jù)這個(gè)趨勢(shì)，在2029年之前，AI將會(huì)在所有任務(wù)上都超越人類，通用人工智能（Artificial　General　Inteligence，簡(jiǎn)稱AGI）將會(huì)全面實(shí)現(xiàn)。在AI技術(shù)率先取得突破之后，它將可以賦能很多領(lǐng)域，并助力它們實(shí)現(xiàn)快速的發(fā)展。由此，在5到10年內(nèi)，人類就有望實(shí)現(xiàn)“長(zhǎng)壽逃逸速度”（Longevity　Escape　Velocity），到時(shí)候人們雖然還會(huì)繼續(xù)老去，但由于醫(yī)療技術(shù)的改進(jìn)，他們的死亡風(fēng)險(xiǎn)卻不會(huì)隨著年齡而增加。借助于紅血球大小的納米機(jī)器人，人們將可以直接在分子層面殺滅病毒及癌細(xì)胞，從而解決大量困擾人類的疾病，人類的預(yù)期壽命將會(huì)因此而大幅增長(zhǎng)。不僅如此，納米機(jī)器人還有望通過毛細(xì)血管無(wú)創(chuàng)地進(jìn)入人類的大腦。它們將和云端托管的其他數(shù)字神經(jīng)元一起，將人類的智能水平提到一個(gè)更高的水平。通過這種方式，人類的思考能力、記憶水平和問題處理能力將不再受到腦容量的限制，人的智能水平將會(huì)成千上萬(wàn)倍地增長(zhǎng)。在上述這一切發(fā)生之后，現(xiàn)在困擾人們的很多問題將會(huì)迎刃而解：更為廉價(jià)的能源將會(huì)被發(fā)現(xiàn)和使用，農(nóng)業(yè)的效率將會(huì)大幅度提升，公共教育水平將會(huì)顯著改進(jìn)，暴力事件將會(huì)大幅減少……總而言之，在2045年之前，人類將會(huì)邁過“奇點(diǎn)”（Singularity），迎來一個(gè)與之前完全不同的新時(shí)代。

對(duì)于我這樣的老讀者來說，庫(kù)茲韋爾的這些觀點(diǎn)其實(shí)并不新奇。事實(shí)上，在2005年出版的《奇點(diǎn)臨近》（The　Sin-gularity　is　Near）一書中，他就對(duì)上述的幾乎所有觀點(diǎn)進(jìn)行過詳細(xì)的討論，從這個(gè)意義上看，這次的新書只不過是新瓶裝舊酒而已。盡管如此，這次再讀到這些觀點(diǎn)，我的心境卻已和當(dāng)初大不相同。十幾年前，當(dāng)我讀到《奇點(diǎn)臨近》時(shí)，更多只是將其視為一部科幻小說。雖然庫(kù)茲韋爾在書中用大量數(shù)據(jù)向人們展示這個(gè)世界的技術(shù)在按照指數(shù)速度增長(zhǎng)，但包括我在內(nèi)的很多人卻都對(duì)此報(bào)以高度的懷疑。

畢竟，從當(dāng)時(shí)看，雖然互聯(lián)網(wǎng)技術(shù)正在經(jīng)歷高速的增長(zhǎng)，但它除了給人帶來了更多便利之外，似乎很難對(duì)人們的生活方式產(chǎn)生根本性的影響。與此同時(shí)，在符號(hào)主義的引領(lǐng)之下，曾被寄予厚望的AI領(lǐng)域則走入了死胡同，一時(shí)之間似乎很難看到可能的突破口。在這種條件下，說2029年AI的智能水平將全面超越人類，就幾乎如同天方夜譚。

神奇的是，后來的歷史發(fā)展走勢(shì)卻和庫(kù)茲韋爾的預(yù)言驚人地相似。就在《奇點(diǎn)臨近》發(fā)布后兩年，“深度學(xué)習(xí)革命”就引爆了AI領(lǐng)域的新一輪增長(zhǎng)。不久之后，AI的能力就發(fā)展到了足以戰(zhàn)勝人類圍棋的頂尖高手、破解數(shù)以億計(jì)的蛋白質(zhì)結(jié)構(gòu)、幫助設(shè)計(jì)數(shù)十萬(wàn)元件的電腦芯片的水平。而在2022年10月ChatGPT（聊天式人工智能程序）橫空出世之后，AI更是在短短一年多內(nèi)掌握了交談、寫作、繪畫、視頻制作等原本只有人才能掌握的技能。根據(jù)相關(guān)的研究，最新的AI模型已經(jīng)在數(shù)百種任務(wù)中展現(xiàn)出了超越人類的能力。在這種情況下，關(guān)于2029年AI將要超越人類的預(yù)言不僅不再顯得激進(jìn)，反而是顯得略顯保守了。事實(shí)上，很多專業(yè)人士都認(rèn)為AGI的到來時(shí)間將會(huì)更早。比如，DeepMind(開發(fā)AlphaGo的人工智能公司)的創(chuàng)始人之一肖恩·萊格（ShaneLegg）認(rèn)為AGI在2028年之前就可以實(shí)現(xiàn)；而特斯拉CEO埃隆·馬斯克（ElonMusk）則更是激進(jìn)地認(rèn)為人們?cè)?025年就將迎來AGI。

不僅如此，包括納米機(jī)器人、腦機(jī)接口在內(nèi)的眾多技術(shù)也正在如庫(kù)茲韋爾預(yù)言的那樣迅速發(fā)展。比如，在2023年1月，《自然·納米技術(shù)》雜志上就報(bào)道了巴塞羅那科學(xué)技術(shù)研究所的研究人員用納米機(jī)器人攜帶藥物對(duì)膀胱癌進(jìn)行治療的研究。研究顯示，這種治療方法可以讓實(shí)驗(yàn)鼠身上的腫瘤縮小90%。這一成功非常好地說明了庫(kù)茲韋爾所說的應(yīng)用納米機(jī)器人來治療癌癥，從而延長(zhǎng)人類生命的設(shè)想是完全可行的。又如，就在幾天之前，馬斯克宣布第二例腦機(jī)接口手術(shù)即將在幾天內(nèi)進(jìn)行，同時(shí)預(yù)測(cè)在幾年之內(nèi)，將會(huì)有數(shù)千名患者將接口裝置植入大腦。雖然從目前看這項(xiàng)技術(shù)依然存在著很多的不足，但按照現(xiàn)在的發(fā)展速度，在不久的將來，人類通過腦機(jī)接口與計(jì)算機(jī)實(shí)現(xiàn)意念交互應(yīng)當(dāng)不是夢(mèng)想。如果將納米技術(shù)和腦機(jī)接口這兩項(xiàng)“黑科技”結(jié)合起來，那么實(shí)現(xiàn)庫(kù)茲韋爾所說的人機(jī)融合、智能倍增也將是完全可能的。基于以上理由，我們有理由相信，在2045年前實(shí)現(xiàn)“奇點(diǎn)”在技術(shù)上正變得越來越可行。

然而，當(dāng)人們邁過“奇點(diǎn)”之后，真的能像庫(kù)茨維爾所預(yù)言的那樣，迎來一個(gè)前所未有的美好時(shí)代嗎？在我看來，這個(gè)問題的答案其實(shí)是不確定的。盡管包括庫(kù)茨維爾本人在內(nèi)的技術(shù)樂觀主義者們可以舉出很多歷史的證據(jù)來證明至今為止的技術(shù)發(fā)展最終都促進(jìn)了人類福祉的提升，但如果我們簡(jiǎn)單地用這個(gè)規(guī)律來預(yù)測(cè)未來，或許會(huì)存在巨大的風(fēng)險(xiǎn)。畢竟，從人類歷史上看，沒有任何一項(xiàng)技術(shù)具有AI那樣的力量，一旦使用不當(dāng)，其引發(fā)的風(fēng)險(xiǎn)將是難以設(shè)想的。

因此，要確保在“奇點(diǎn)”之后我們迎來的會(huì)是一個(gè)美好的新時(shí)代，就需要在奇點(diǎn)到來之前對(duì)人與技術(shù)、人與人，以及人與人類本質(zhì)之間的關(guān)系進(jìn)行全面的思考，并從中找出辦法，確保技術(shù)始終沿著有利于人類的方向發(fā)展。

當(dāng)工作開始消亡

按照庫(kù)茨維爾的預(yù)測(cè)，現(xiàn)在距離AGI的到來還有大約五年的時(shí)間。盡管到目前為止，AI的智能水平尚未全面超越人類，但它確實(shí)已經(jīng)在很多方面超越了人類的水平，這就引發(fā)了人們對(duì)于AI引發(fā)的技術(shù)性失業(yè)的空前關(guān)注。

從歷史的角度看，技術(shù)性失業(yè)并不是什么新話題。從蒸汽機(jī)的發(fā)明，到電力的應(yīng)用，再到互聯(lián)網(wǎng)的普及，都曾產(chǎn)生過顯著的“創(chuàng)造性毀滅”（CreativeDestruction）效應(yīng)，導(dǎo)致大量基于舊技術(shù)的崗位消失，造成很多從事相關(guān)職業(yè)的人失業(yè)。不過，歷史上的這幾波技術(shù)性失業(yè)大多都是暫時(shí)性的。隨著新技術(shù)的普及，很多新的崗位會(huì)被創(chuàng)造出來。

誠(chéng)然，到目前為止，AI對(duì)就業(yè)市場(chǎng)造成的沖擊尚不顯著，但這并不是說其風(fēng)險(xiǎn)并不存在。在預(yù)計(jì)AI未來可能造成的就業(yè)沖擊時(shí)，人們經(jīng)常忽略了一個(gè)重要條件，即AI能力的提升可能是按照指數(shù)規(guī)律進(jìn)行的。事實(shí)上，如果我們以2022年ChatGPT（人工智能對(duì)話程序）的問世作為節(jié)點(diǎn)，就不難發(fā)現(xiàn)AI在該節(jié)點(diǎn)之后的發(fā)展速度要遠(yuǎn)遠(yuǎn)快于節(jié)點(diǎn)之前。僅以交互這一項(xiàng)能力為例，在ChatGPT問世之前，人們花了數(shù)十年的時(shí)間才讓AI學(xué)會(huì)了自由和人對(duì)話；在ChatGPT問世之后，AI就在一年多的時(shí)間內(nèi)實(shí)現(xiàn)了多模態(tài)的交互能力。從這個(gè)意義上看，完全按照線性的邏輯來外推AI能力在未來的增速，很可能會(huì)帶來十分嚴(yán)重的誤判。另外需要注意的是，在AI能力大幅度提升的同時(shí)，其使用成本還在大幅度降低。目前人們通過API調(diào)用AI模型的成本已經(jīng)降到了幾乎為零。

這種性能的提升和成本的下降加在一起，就讓用AI替代人類不僅具有了技術(shù)上的可能性，而且具有的經(jīng)濟(jì)上的可能性。實(shí)際上，如果我們多留意一下相關(guān)的科技新聞，就會(huì)發(fā)現(xiàn)在我們不注意的時(shí)候，AI其實(shí)已經(jīng)悄悄替代了很多職業(yè)。值得注意的是，僅僅在十年之前，人們還認(rèn)為AI只會(huì)替代那些程式化較強(qiáng)、重復(fù)性較高的工作，而對(duì)于那些更需要?jiǎng)?chuàng)意、更需要溝通技能的工作，AI則很難替代。但是，插畫師這個(gè)職業(yè)曾因工作時(shí)間自由，收入相對(duì)較高而備受年輕人的鐘愛，現(xiàn)在要用AI模型來完成插畫的話，則只需要幾百塊錢就可以不限量包月，還可以隨時(shí)根據(jù)需要重新修改。很顯然，在這樣的對(duì)比之下，大多數(shù)顧客都會(huì)選擇使用AI而非人類畫師，而廣大插畫師也會(huì)由于顧客的這種選擇而失去自己的工作。除了插畫師之外，包括翻譯、程序員、平面設(shè)計(jì)師等職業(yè)也在經(jīng)受AI的嚴(yán)重沖擊。只不過這部分經(jīng)受沖擊的人群在勞動(dòng)力總體中的所占比例較低，所以人們的感受不太明顯而已。

那么，這一輪AI換人所引發(fā)的技術(shù)性失業(yè)也會(huì)像以往那樣，僅靠市場(chǎng)的自發(fā)調(diào)節(jié)就能輕松度過嗎？對(duì)于這個(gè)問題，我的看法并沒有那么樂觀。從根本上，一個(gè)社會(huì)是否可以較為平穩(wěn)地度過技術(shù)性失業(yè)的浪潮，主要取決于兩點(diǎn)：一是遭受新技術(shù)沖擊的職業(yè)是否有大量就業(yè)人口。二是新技術(shù)在消滅舊有的就業(yè)機(jī)會(huì)時(shí)，能夠及時(shí)創(chuàng)造出較易上手的新職業(yè)。

但這一次，AI對(duì)就業(yè)市場(chǎng)的沖擊是完全不一樣的。一方面，此輪的AI沖擊不僅范圍上十分全面，而且時(shí)間上也十分密集。所謂范圍上的全面，指的是很多行業(yè)都同時(shí)受到了沖擊。不同于過去的專用型AI，新近面世的AI模型大多是通用型的。在實(shí)踐中，人們只要對(duì)這些模型進(jìn)行稍許的微調(diào)就可以用它們來完成很多不同的任務(wù)。在這種情況下，AI的發(fā)展就可能同時(shí)對(duì)多種職業(yè)造成沖擊。而所謂時(shí)間上的密集，指的是AI在沖擊了一個(gè)職業(yè)之后，馬上就會(huì)沖擊另外一個(gè)職業(yè)。這種密集的沖擊不久失業(yè)者的再就業(yè)難度會(huì)大幅提升，還會(huì)嚴(yán)重打擊他們通過技能培訓(xùn)實(shí)現(xiàn)再就業(yè)的信心。試想，如果一位插畫師剛剛被Midjourney（一種人工智能繪畫工具）搶走了飯碗，好不容易才學(xué)會(huì)了開車，成為了一名網(wǎng)約車司機(jī)，但不久后就又因無(wú)人汽車的興起而失去了工作，在這樣的情況下，他是否還有毅力繼續(xù)去學(xué)習(xí)新的技能，并且篤定AI在短時(shí)間內(nèi)不會(huì)掌握這項(xiàng)技能呢？

因此，這一輪由AI帶來的技術(shù)性失業(yè)將可能和過去的歷次技術(shù)性失業(yè)都截然不同。如果接下去AI技術(shù)繼續(xù)按照指數(shù)增長(zhǎng)，那么純粹依靠市場(chǎng)的自發(fā)調(diào)節(jié)，恐怕很難再讓社會(huì)實(shí)現(xiàn)充分的就業(yè)。從政策的角度看，我們當(dāng)然有很多方法去緩解AI對(duì)就業(yè)的沖擊，比如由政府出面提供更多求職中介服務(wù)和再就業(yè)培訓(xùn)都可以幫助那些因AI而失業(yè)的人更快地找到新的工作。不過，如果AI的發(fā)展速度持續(xù)保持在一個(gè)較高的水平，那么所有的這些努力充其量都只能起到暫時(shí)的效果。人類工作的消亡或許會(huì)是一個(gè)我們難以接受，但卻又不得不面對(duì)的未來。

拒斥“終產(chǎn)者”

考慮到我們現(xiàn)在腦機(jī)接口、納米機(jī)器人等技術(shù)的發(fā)展要落后于AI，那么，至少在未來的十年內(nèi)，用AI直接強(qiáng)化大腦恐怕還只能停留在設(shè)想層面。那么，在這段時(shí)間里，人們應(yīng)該如何應(yīng)對(duì)AI引發(fā)的技術(shù)性失業(yè)所引發(fā)的各種社會(huì)矛盾呢？

一些學(xué)者對(duì)此給出的解決方案是：對(duì)AI使用者征稅，并用得到的稅款發(fā)放全民基本收入（UniversalBasicIn－come，簡(jiǎn)稱UBI）。 這樣，即使那些因AI沖擊而失業(yè)的人難以找到新的工作，他們也可以獲得基本的生活保障，不至于讓生活陷入困境。

不過，這個(gè)方案從提出開始，就備受爭(zhēng)議。比如，一些學(xué)者就認(rèn)為，對(duì)AI這種新技術(shù)征稅，將會(huì)對(duì)其的發(fā)展造成很大的阻礙；另一些學(xué)者則認(rèn)為，UBI的推行有可能鼓勵(lì)人們不勞而獲。

在我看來，推行AI稅和UBI的更大潛在阻力，其實(shí)是來自其對(duì)利益分配的影響。如我們所見，隨著AI的發(fā)展，一大批與AI相關(guān)的企業(yè)在短時(shí)間內(nèi)出現(xiàn)了營(yíng)收和市值的暴漲。以O(shè)penAI為例，幾年前，它還是一個(gè)連年虧損，不名一錢的企業(yè)，但隨著GPT等模型的爆火，它迅速就成為了年?duì)I收數(shù)十億美元，估值近千億美元的企業(yè)。更不用說微軟、英偉達(dá)等巨頭都借著AI的東風(fēng)，讓其市值在一年多內(nèi)膨脹了上萬(wàn)億美元。可以預(yù)見，隨著AI技術(shù)的進(jìn)一步發(fā)展，這種天量財(cái)富向少部分企業(yè)和個(gè)人集中的趨勢(shì)將可以繼續(xù)。

這會(huì)帶來什么樣的后果？一個(gè)直接的后果是，整個(gè)社會(huì)的分化和隔閡將會(huì)更加嚴(yán)重。當(dāng)AI的性價(jià)比足夠高后，普通勞動(dòng)者就會(huì)像郝景芳的小說《北京折疊》中所說的那樣，連被剝削的價(jià)值也不存在了。在這種情況下，掌握AI和財(cái)富的富人們甚至將不愿意和他們生活在同一個(gè)城市，由此，社會(huì)的隔閡和對(duì)立就會(huì)更加嚴(yán)重。

這還不是最可怕的。如果像庫(kù)茨維爾預(yù)言的那樣，在不久的將來，人類將可以通過納米技術(shù)從分子層面對(duì)自己進(jìn)行改造，那么那些掌握了更多財(cái)富的人就會(huì)率先讓自己實(shí)現(xiàn)“機(jī)械進(jìn)化”。在此之后，富人相對(duì)于窮人的優(yōu)勢(shì)就不僅僅會(huì)是更多的財(cái)富，在智力、體力等各個(gè)方面，他們都將對(duì)后者形成碾壓的態(tài)勢(shì)。而這種優(yōu)勢(shì)又會(huì)反過來讓他們進(jìn)一步助推財(cái)富的集中……劉慈欣曾在其小說《贍養(yǎng)人類》中對(duì)這種情況進(jìn)行了想象。根據(jù)他的想象，在類似的趨勢(shì)之下，全社會(huì)的財(cái)富和權(quán)力都會(huì)被一個(gè)“終產(chǎn)者”壟斷，而其余所有人的命運(yùn)都被其掌握。

如何讓AI對(duì)齊？

如果說技術(shù)性失業(yè)和分配問題都是人類曾多次遇到過的老問題在AI時(shí)代的重現(xiàn)，那么下面我們要探討的就是“奇點(diǎn)”臨近時(shí)的全新問題。

在所有的新問題中，最為突出的一個(gè)可能就是AI對(duì)齊（AIAlignment）問題。所謂AI對(duì)齊，簡(jiǎn)而言之，就是確保AI能理解人類的規(guī)范和價(jià)值，懂得人類的意愿和意圖，按照人類的意志行事。從表面上看，這似乎并不是一件難事，畢竟AI的程序根本上都是由人設(shè)定的，人難道還會(huì)給其設(shè)定一個(gè)與自己利益相違背的目標(biāo)嗎？但事實(shí)上，答案并沒有那么簡(jiǎn)單，原因有二：

一方面，人類在為AI設(shè)定行為目標(biāo)和規(guī)范時(shí)，通常難以全面、正確地表述自己的利益關(guān)切，這就給AI違背人類利益留下了空間。比如，科學(xué)哲學(xué)家波斯特羅姆曾在其名作《超級(jí)智能》中提出過一個(gè)名為“宇宙回形針”的思想實(shí)驗(yàn)。他假想人類制作了一個(gè)以回形針產(chǎn)量最大化為目標(biāo)的AI，那么它將會(huì)用盡一切方法來達(dá)成這個(gè)目標(biāo)，甚至為了將更多的資源用于生產(chǎn)回形針，不惜消滅人類。這個(gè)思想實(shí)驗(yàn)中，生產(chǎn)回形針這件事本身是符合人類利益的，但它最終的結(jié)果將可能嚴(yán)重?fù)p害人類利益。

另一方面，人類為了讓AI可以實(shí)現(xiàn)更高的效率，通常會(huì)給賦予它們很大的自我學(xué)習(xí)和改進(jìn)空間，這就可能讓AI偏離原本設(shè)定的價(jià)值觀。比如，現(xiàn)在的不少AI智能體都允許其根據(jù)與環(huán)境及用戶的互動(dòng)來不斷完善自己，在這種情況下，他就可能受到各種不良價(jià)值觀的影響，導(dǎo)致其目標(biāo)與人類的根本利益相偏離。

特別是，隨著AGI的到來，AI會(huì)逐步從工具變成與人類能力相當(dāng)，甚至能力全方位高于人類的個(gè)體，在這種情況下，AI利益與人類的不一致就會(huì)引發(fā)巨大的風(fēng)險(xiǎn)，《終結(jié)者》《黑客帝國(guó)》等影視作品中刻畫的黑暗未來就可能真正來臨。

正是為了防止這樣的情況出現(xiàn)，所以現(xiàn)在的AI對(duì)齊研究已經(jīng)成為了AI領(lǐng)域中的顯學(xué)。在現(xiàn)階段，人們主要用兩種方法來實(shí)現(xiàn)AI對(duì)齊。一種是“人類反饋的強(qiáng)化學(xué)習(xí)”，即所謂的RLHF方法；另一種則是“憲法人工智能”，即所謂的CAI方法。在使用RLHF時(shí)，設(shè)計(jì)師會(huì)先用人工訓(xùn)練一個(gè)規(guī)模較小的AI模型，通過訓(xùn)練者對(duì)AI行為的持續(xù)反饋來實(shí)施強(qiáng)化學(xué)習(xí)，引導(dǎo)它的價(jià)值觀與設(shè)計(jì)者預(yù)期的價(jià)值觀相一致。然后，再用這個(gè)小模型充當(dāng)“教練”，用強(qiáng)化學(xué)習(xí)來對(duì)更大規(guī)模的AI模型進(jìn)行訓(xùn)練。而在使用CAI方法時(shí)，設(shè)計(jì)者則會(huì)先設(shè)定一個(gè)AI模型必須要遵循的“憲法”，并根據(jù)“憲法”去生成各種場(chǎng)景下AI需要遵循的行為準(zhǔn)則。然后，設(shè)計(jì)者用這些準(zhǔn)則對(duì)AI模型生成的不同結(jié)果進(jìn)行評(píng)判，看它們是否符合“憲法”的準(zhǔn)則。對(duì)符合“憲法”的結(jié)果，給予相應(yīng)獎(jiǎng)勵(lì)；而對(duì)違背“憲法”的結(jié)果，則給予相應(yīng)的處罰。

值得肯定的是，這兩種方法目前都取得了一定的成就，但它們的問題依然很大。比如，“深度學(xué)習(xí)之父”辛頓（GeoffreyHinton）最近就指出，這些方法都只能讓AI的行為看起來符合人們的利益，卻不能保證它們從價(jià)值觀層面完全和人保持一致。在這樣的情況下，人們就很難保證AI會(huì)在某些情況下做出背叛人類的事情。尤其是在AGI到來，AI的能力超越人類的時(shí)候，類似背叛的可能性將越來越高，由之產(chǎn)生的風(fēng)險(xiǎn)也會(huì)越來越大。

那么，在這樣的情況下，應(yīng)該如何進(jìn)一步完善AI對(duì)齊工作呢？在我看來，我們需要的或許是一些思路上的轉(zhuǎn)變。從目前看，幾乎所有人都很自然地把AI對(duì)齊等同為了價(jià)值對(duì)齊，認(rèn)為必須讓AI的價(jià)值觀和自己一致，才能讓它們始終服務(wù)于人類利益，但這一點(diǎn)顯然是相當(dāng)困難的。但是，價(jià)值觀的一致真的是必需的嗎？或者我們可以換一個(gè)問題：在現(xiàn)實(shí)中，我們需要某個(gè)人按照我們的利益去完成某些工作，難道一定需要讓他在價(jià)值觀上和我們保持一致嗎？答案當(dāng)然是否定的。在更多時(shí)候，我們其實(shí)只需要設(shè)計(jì)好一套好的規(guī)則，就可以引導(dǎo)價(jià)值觀和我們并不一致的人去達(dá)成我們希望的目標(biāo)。舉例來說，假設(shè)我們要讓兩個(gè)自利的人去公平地分配一個(gè)蛋糕，如果我們想通過首先對(duì)齊價(jià)值觀的方式來達(dá)成這一目標(biāo)，那么這項(xiàng)工作就會(huì)無(wú)比困難。不過，我們大可不必這樣，只需要設(shè)計(jì)一個(gè)機(jī)制，讓一個(gè)人來切蛋糕，但卻讓另一個(gè)人負(fù)責(zé)分配，就可以非常容易地完成這項(xiàng)工作。這就啟發(fā)我們，其實(shí)在進(jìn)行AI對(duì)齊時(shí)，也可以繞開價(jià)值觀這個(gè)難以破解的黑箱，直接從機(jī)制設(shè)計(jì)角度出發(fā)，去完成這些工作。令人欣慰的是，現(xiàn)在已經(jīng)有一些研究者看到了這種對(duì)齊思路，并沿著這個(gè)方向取得了不少成就。

你是誰(shuí)？我又是誰(shuí)？

除了AI對(duì)齊問題之外，人們?cè)?ldquo;奇點(diǎn)”臨近時(shí)必須面對(duì)的另一大難題是關(guān)于身份的識(shí)別和認(rèn)同。這個(gè)問題包括兩個(gè)方面，一是應(yīng)該如何認(rèn)識(shí)AI的身份，以及我們與AI的關(guān)系；二是如何重新認(rèn)識(shí)我們自己的身份。

先看第一個(gè)問題。前幾年，如果你問一個(gè)人應(yīng)該如何看待AI，那么他多半會(huì)毫不猶豫地說，它只不過是我們的工具而已。其理由很簡(jiǎn)單：從表現(xiàn)看，它們不太可能具備自主的意識(shí)，只能在人的控制下執(zhí)行相關(guān)的任務(wù)。

但在ChatGPT等大語(yǔ)言模型出現(xiàn)后，情況就起了很大的變化。AI在與人的互動(dòng)中的表現(xiàn)已經(jīng)逐漸擺脫了原有的呆板，在和我們的對(duì)話中總是可以對(duì)答如流，甚至在一些情況下，它們已經(jīng)可以主動(dòng)揣測(cè)我們的心理，去預(yù)判我們的心理和行為。這不由得讓我們懷疑，它們究竟是不是已經(jīng)有了自己的意識(shí)。或許有些計(jì)算機(jī)專家們會(huì)安慰我們，這不過是它根據(jù)預(yù)先設(shè)計(jì)好的模型在機(jī)械地回答這些問題，本質(zhì)上不過是一堆0和1的加加減減。但是，正所謂“子非魚安知魚之樂”，誰(shuí)又能保證在這種簡(jiǎn)單的加減背后沒有蘊(yùn)含著意識(shí)和思維呢？畢竟，即使拋開我們的大腦，用顯微鏡細(xì)細(xì)觀察，也只能看到一堆神經(jīng)元在發(fā)送著各種電信號(hào)，而看不到哪怕一個(gè)有靈魂的細(xì)胞。既然如此，我們又怎么肯定眼前那個(gè)可以和我們自由交流的AI沒有演化出靈魂呢？

我想，在AGI到來之后，類似的問題會(huì)越來越突出。或許在不久后的某一天，《西部世界》中的仿生AI機(jī)器人就會(huì)出現(xiàn)在我們面前。它們所有的行為舉止都和我們一致，甚至預(yù)設(shè)的程序還會(huì)告訴它們自己就是人。當(dāng)遭遇這樣的AI機(jī)器人，我們是否還能拍著胸脯說眼前的不過是我們創(chuàng)造的工具呢？

再看第二個(gè)問題。相比于AI的身份問題，人類自我的身份識(shí)別和認(rèn)同或許會(huì)是一個(gè)更為棘手的問題。

一方面，如前所述，隨著納米機(jī)器人和腦機(jī)接口技術(shù)的發(fā)展，人類將會(huì)掌握大幅修改自己身體的能力。未來，人們不僅有望用納米機(jī)器人幫助自己修復(fù)壞死的細(xì)胞，以延長(zhǎng)自己的壽命，更可以直接依靠它們來擴(kuò)展自己的智力和體力。起初，這種對(duì)人體的修改可能僅限于少數(shù)的一些細(xì)胞，這并不會(huì)對(duì)我們?cè)斐缮矸菡J(rèn)同上的煩惱——就好像現(xiàn)在我們不會(huì)認(rèn)為一個(gè)人安了假肢或安了假牙后，就不是他了一樣。但如果這種修改的過程一直持續(xù)，總有一天人們會(huì)把全身大部分，甚至全部的細(xì)胞都做了替換。這時(shí)，經(jīng)典的“忒修斯之船”問題就又會(huì)出現(xiàn)在我們的面前：現(xiàn)在的“我”究竟還是過去的“我”嗎？

另一方面，隨著AI技術(shù)的發(fā)展，人們將會(huì)逐漸掌握將意識(shí)上傳云端的能力——事實(shí)上，包括馬斯克在內(nèi)的一些人已經(jīng)在開始進(jìn)行類似的努力了。假設(shè)在未來的某一天，技術(shù)真的發(fā)展到了足以讓這個(gè)意識(shí)和本人一樣思考，那么這個(gè)意識(shí)究竟是否可以被視為人的意識(shí)呢？如果答案是肯定的，那么它和意識(shí)的本尊又是什么關(guān)系？進(jìn)一步地，如果我們將這個(gè)意識(shí)安放到意識(shí)來源的克隆體當(dāng)中，那么這個(gè)克隆體和原本的人又是什么關(guān)系？父子？兄弟？還是其他呢？

需要強(qiáng)調(diào)的是，身份識(shí)別和認(rèn)同問題絕不只是單純的哲學(xué)思辨議題。在現(xiàn)實(shí)中，它會(huì)關(guān)系到很多法律和倫理議題。比如，人類與AI的勞資關(guān)系應(yīng)該如何處理？AI是否應(yīng)該享有與人同等的權(quán)利？克隆了我身體和意識(shí)的克隆體是否可以擁有我的財(cái)產(chǎn)？如果身份問題不解決好，那么這些問題都很難真正解決。

但迄今為止，人們依然沒有為上述問題找到確定的答案。為了進(jìn)一步促進(jìn)相關(guān)共識(shí)的形成，我們依然需要對(duì)這些問題進(jìn)行公開、深入的討論。

陳永偉/文