（圖片來源：東方IC）

經(jīng)濟觀察網(wǎng) 記者 鄒永勤 要說當前全球最熱門的話題有哪些，ChatGPT必然要算上一個。

自2022年11月底問世以來，ChatGPT持續(xù)受消費者追捧進而在金融市場掀起了如火如荼的人工智能炒作浪潮。通聯(lián)數(shù)據(jù)Datayes！的統(tǒng)計顯示，國內(nèi)ChatGPT指數(shù)自2月1日設(shè)立以來的1000點起步，至2月24日的1240點，月內(nèi)已經(jīng)錄得24%的漲幅；板塊內(nèi)更是出現(xiàn)了眾多短期翻番的熱門個股，如鴻博股份（002229.SZ）、海天瑞聲（688787.SH）等。

與此同時，ChatGPT亦因其最前沿尖端的科技屬性引發(fā)了科技圈乃至整個社會對其的熱烈討論，包括馬斯克、比爾蓋茨、周鴻祎、李彥宏等在內(nèi)的眾多科技圈名流紛紛對此發(fā)表觀點、指點江山。

而在上述一眾科技圈名流的觀點當中，360集團創(chuàng)始人周鴻祎無疑是最為國內(nèi)關(guān)注的一員。但經(jīng)濟觀察網(wǎng)記者留意到，近期周鴻祎對ChatGPT的觀點卻頗有讓人迷惑之處：從一開始的盛贊其有可能帶來一場新的工業(yè)革命，到最近說ChatGPT可能是人工智能毀滅人類的開始，可謂風向突變。

是周鴻祎對ChatGPT的認知出現(xiàn)了大反轉(zhuǎn)抑或別有原因？而類ChatGPT技術(shù)的出現(xiàn)，又會對搜索引擎、網(wǎng)絡(luò)安全以及整個數(shù)字化產(chǎn)業(yè)帶來哪些深刻影響？為此，經(jīng)濟觀察網(wǎng)記者于2月24日連線采訪了周鴻祎。

意義不亞于蒸汽機的發(fā)明

記者：近期ChatGPT大熱，而您作為科技圈名人，其言論自然備受關(guān)注。但綜合您近期的觀點，卻頻有讓人迷惑之處：此前跟張朝陽的對話中曾盛贊“ChatGPT有可能帶來一場新的工業(yè)革命，如果搭不上這班車就有可能被淘汰”，但現(xiàn)在卻稱ChatGPT有可能是人工智能毀滅人類的開始。究竟ChatGPT身上有哪些特性，讓你對其“又愛又恨”？

周鴻祎：從新工業(yè)革命的角度來看，ChatGPT首先是一個通用人工智能，它不是為了解決某一專有領(lǐng)域的問題，而是實現(xiàn)了對人類知識的存儲。ChatGPT完成了這項偉大的使命，而它完成工作的過程很簡單，就是建立一個大語言模型，通過大力出奇跡的方法來實現(xiàn)，而且過程中不需要人工標注，可以稱之為無監(jiān)督學習。

ChatGPT的第二個重要突破，是在這種模型上增加了一種能力的訓練機制，通過這種機制人類可以訓練它很多能力；比如邏輯推理能力，就是對所存儲的知識融會貫通，先把書讀厚、再把書讀薄。

我個人覺得，ChatGPT其實已經(jīng)實現(xiàn)了成為強人工智能的基礎(chǔ)，真正做到了理解自己在說什么。比如，ChatGPT有時候會一本正經(jīng)的胡說八道，這恰恰體現(xiàn)了它的智能。正因為人能編故事，能去描繪那些不存在的東西，描繪那些只有在想象中才存在的東西，人類社會才有了信仰，才有了宗教，才有了文明的傳承。所以ChatGPT的胡言亂語真的很可怕。標志著他已經(jīng)擁有了一定的認知能力、理解力和一定的判斷力，擁有和人類類似的思維能力。

按照進化論的說法，人類從智人發(fā)展而來，智人從人猿發(fā)展而來的；而在人猿到智人的過程中出現(xiàn)了智力突變。我們可以猜測一下，這個過程中一定是隨著腦容量的變化，腦子里的神經(jīng)元網(wǎng)絡(luò)發(fā)生突變，才引發(fā)了智力的出現(xiàn)。現(xiàn)在ChatGPT大語言模型參數(shù)達到了1750億，同樣激發(fā)了突變，使之產(chǎn)生了現(xiàn)在的能力。

ChatGPT的巨大進步，使得它有可能成為各個行業(yè)的“水”跟“電”，從而發(fā)揮支撐作用。我們要把它看成云服務(wù)、看成API，它對消費者是聊天機器人的界面，那只是一個連接端，聊天機器人之所以強大是聊天機器人背后的云端藏著一個智能大腦。今天如果把智能大腦通過API的方式，把云服務(wù)連到目前各個業(yè)務(wù)系統(tǒng)里，那么現(xiàn)在所有的產(chǎn)業(yè)，包括所有的軟件、APP、數(shù)字化系統(tǒng)等等，都值得重新做一遍，比如有的可以做深度融合，有的可以做使用上的融合等等。

因此，我覺得ChatGPT的發(fā)明用任何譽美之詞都不為過。相對于馬斯克說它不亞于iPhone的出現(xiàn)，比爾蓋茨說它不亞于于PC或互聯(lián)網(wǎng)的誕生，我更愿意說ChatGPT可能會帶來一場新的工業(yè)革命，有點像蒸汽機和電力的發(fā)明。

但從危機的角度來看，第一步，它可能很快就會產(chǎn)生意識。目前ChatGPT僅僅用到了認知，就像《從混沌到秩序》那本書里講的一樣，人類的大腦神經(jīng)元或者神經(jīng)觸突，神經(jīng)網(wǎng)絡(luò)多到一定的時候，臨界值就產(chǎn)生了意識。那么，隨著撬動ChatGPT的參數(shù)進一步擴大，當知識足夠多的時候，有沒有可能也會觸發(fā)它的某種突變，從混沌中催生意識？就像跳到ChatGPT的模型，超過1000億參數(shù)之后，就產(chǎn)生了神奇的突變，產(chǎn)生了主動推理、舉一反三的能力。

第二步，它可能進化出“眼睛”、“耳朵”、“手”跟“腳”。目前GPT還只有大腦，如果給它加上眼睛和耳朵，讓它能夠看懂人類的各種圖像、視頻，聽懂各種音頻，屆時它的知識存儲將會突飛猛進，智能化水平也將同步提升。更進一步，隨著ChatGPT接入互聯(lián)網(wǎng)的API（應(yīng)用程序編程接口），進入萬物互聯(lián)的時代，它無疑相當于擁有了手跟腳，間接擁有了操控世界的能力。

這個時候，它不僅在網(wǎng)頁上可以下單購買機票，可以打車，可以訂購?fù)赓u，甚至能夠通過網(wǎng)頁操縱各種物聯(lián)網(wǎng)設(shè)備。再設(shè)想，假如讓ChatGPT不限定輸入的語料，隨意能夠獲取搜索、瀏覽互聯(lián)網(wǎng)上的知識，產(chǎn)生了自主意識的GPT會不會在看完類似《終結(jié)者》之類的電影后，產(chǎn)生與人類為敵的想法？

第三步，它可能能夠自我進化。現(xiàn)在的ChatGPT僅僅會寫一些簡單的代碼。但是有一天，當它的代碼能力提升之后，它是否可以自動來查閱自身的代碼，可以對代碼進行修正和升級，甚至再重新編譯一個新的版本？如果這樣，它就擁有了能夠自我學習、自我進化的能力，實現(xiàn)了機器人制造機器人的前景。人類是否會因此走入毀滅猶未可知。

但是，我想強調(diào)的是，我們不能因此就不發(fā)展技術(shù)，而是要知道技術(shù)的底線和邊界在哪，從而去規(guī)范技術(shù)向著正確的方向發(fā)展。

如果ChatGPT進化為硅機生物

記者：其實并不僅您有提出人工智能毀滅人類的擔憂，日前馬斯克亦有類似觀點，指人工智能是未來人類文明最大的風險之一。請問，如果人工智能的發(fā)展最終會威脅人類的存在，那么是否有違其發(fā)展初衷？我們現(xiàn)在大力發(fā)展人工智能的終極意義何在？

周鴻祎：如果結(jié)局真的是這樣，當然有違初衷。人工智能技術(shù)發(fā)展的初衷是為了服務(wù)于人類，提高社會生產(chǎn)力，將人類文明推向更高的發(fā)展水平。因此，我非常贊成埃隆·馬斯克的觀點，就是防止人工智能奴役人類。

關(guān)于ChatGPT與人類安全問題，我認為只能邊發(fā)展邊看，但是我感覺不發(fā)展，可能是最大的不安全。因為如果我們不發(fā)展技術(shù)，其他國家發(fā)展了，會影響我國的數(shù)字化戰(zhàn)略。

我個人覺得，如果真的有一天，按照生物進化的理論，當ChatGPT成為硅機生物，處在食物鏈頂端的時候，它可能會產(chǎn)生正常的推理，覺得人可能沒什么用，而且人在跟它爭能源，它覺得只需要留一部分人給它機房打掃衛(wèi)生就好了，給它空調(diào)換換風扇就好了。

我覺得，如果放任它發(fā)展而沒有任何約束的話，它很可能就會產(chǎn)生上述我們?nèi)祟愑X得“奇怪”的意識。所以，我編了一個笑話：“十年以后，超級GPT基本上在全世界實現(xiàn)了對人類的奴役和控制；只有少數(shù)幾個國家當時被他們封鎖，才使得不至于讓所有的國家幸免于難。”

它能幫助好人，也一樣能幫助壞人

記者：隨著以ChatGPT為代表的AIGC大模型技術(shù)的發(fā)展，它會否導致新的網(wǎng)絡(luò)安全問題的出現(xiàn)？甚至因此給數(shù)字安全技術(shù)帶來重大變革？

周鴻祎：關(guān)于ChatGPT帶來的安全問題，我覺得它已經(jīng)從一個技術(shù)問題變成了一個社會倫理問題，有的時候甚至變成了一個人類面臨的不可預(yù)知的問題。

首先，從傳統(tǒng)來說，ChatGPT既然是一個軟件系統(tǒng)，它是用數(shù)據(jù)來訓練的；所以對它的數(shù)據(jù)污染，或者軟件系統(tǒng)內(nèi)部留的漏洞，這是任何一個傳統(tǒng)的人工智能系統(tǒng)都面臨的傳統(tǒng)數(shù)字化問題。

其次，ChatGPT今天作為一個非常有利的武器，它是為它的主人服務(wù)的，它掌握了非常多的編程知識，以及有關(guān)于漏洞網(wǎng)絡(luò)安全的知識。因此，它現(xiàn)在完全可以成為網(wǎng)絡(luò)黑客作惡的有力的工具。它作為一個機器人助理，除了可以幫助好人，也一樣可以幫助壞人。所以，網(wǎng)上有很多黑客演示了利用ChatGPT寫釣魚郵件、寫攻擊代碼，它大大降低了攻擊的成本和難度，成為很多黑客的幫手。

反過來，安全行業(yè)也在探索用GPT大模型，能否解決對攻擊的自動偵測、自動發(fā)現(xiàn)，或者建立知識庫。企業(yè)網(wǎng)管在面臨安全事件分析的時候，需要有一個強大的知識庫做支撐。所以，ChatGPT也可以扮演正義助手的角色。