人工智能從理論走向應(yīng)用的腳步加快。隨著技術(shù)不斷演進(jìn)，我們迎來了更加智能化的時(shí)代，人工智能在各個(gè)領(lǐng)域都呈現(xiàn)出日益增長的影響力。

2024年，進(jìn)化之路上AI將有怎樣的顛覆性突破？其應(yīng)用場景、商業(yè)模式的迭代和革新會(huì)給人類帶來危機(jī)還是新機(jī)？

1月28日，南財(cái)合規(guī)科技研究院與中國社科院法學(xué)所網(wǎng)絡(luò)與信息法研究室共同發(fā)布《2024年十大AI趨勢預(yù)測》，研究團(tuán)隊(duì)結(jié)合2023年全球的人工智能發(fā)展、應(yīng)用情況，試圖從技術(shù)、商業(yè)以及治理的維度對(duì)行業(yè)發(fā)展做出預(yù)測。該預(yù)測在中國社會(huì)科學(xué)院法學(xué)研究所主辦的“人工智能安全治理研討會(huì)”暨中國社會(huì)科學(xué)院“人工智能安全治理研究”實(shí)驗(yàn)室孵化研討會(huì)上發(fā)布。

2024年十大AI趨勢為：

1、開源模型性能日益強(qiáng)大，有望與閉源模型分庭抗禮

2、AI Agent快速崛起，助力大模型應(yīng)用落地

3、多模態(tài)大模型成為AI產(chǎn)業(yè)競爭重要陣地

4、AI應(yīng)用場景爆發(fā)，“AI+”實(shí)踐補(bǔ)齊商業(yè)化短板

5、具身智能，通用人工智能探索的下一節(jié)點(diǎn)

6、高質(zhì)量數(shù)據(jù)稀缺，合成數(shù)據(jù)或成解法

7、新型智算中心、數(shù)據(jù)中心加快布局 成為關(guān)鍵基礎(chǔ)設(shè)施

8、人工智能版權(quán)糾紛大量涌入司法實(shí)踐

9、一批AI創(chuàng)業(yè)公司在2024年倒閉

10、安全可信AI訴求催生新技術(shù)、新商業(yè)工具

1、開源模型性能日益強(qiáng)大，有望與閉源模型分庭抗禮

以GPT-4為代表的閉源大模型在2023年展現(xiàn)了出眾能力，福布斯預(yù)測2024年商業(yè)閉源大模型仍將持續(xù)領(lǐng)先于開源大模型。

開源代表Yann LeCun（Meta首席AI科學(xué)家）、Clem Delangue（Hugging Face CEO）等看好開源大模型的發(fā)展，認(rèn)為開源大模型能夠達(dá)到或超越閉源大模型的能力。

自Llama 2后，開源又逐漸成為主流趨勢，2023年底，Meta和IBM宣布共同成立了一個(gè)人工智能聯(lián)盟，由50多家人工智能公司和研究機(jī)構(gòu)組成，旨在培養(yǎng)開放社區(qū)。國內(nèi)阿里、百川等也在做開源部署。受益于科技公司的資源投入以及全球開源社區(qū)的共享協(xié)作，開源大模型在速度、適應(yīng)性以及整體效率方面都有望持續(xù)提升。

閉源大模型被視為具有較高的安全性，能夠發(fā)揮其保護(hù)數(shù)據(jù)隱私或商業(yè)利益的作用，并且能夠?qū)I(yè)力量持續(xù)投入到與業(yè)務(wù)場景的融合中，具備長期服務(wù)能力。比如OpenAI也會(huì)推出定制化GPT、應(yīng)用商店等構(gòu)建以ChatGPT為基礎(chǔ)的閉源模型生態(tài)體系。

未來，開源與閉源模型之爭的走向會(huì)如何，是互為補(bǔ)充并服務(wù)于不同的場景及需求，還是一方碾壓另一方，市場會(huì)告訴我們答案。

2、AI Agent快速崛起，助力大模型應(yīng)用落地

AI Agent是一個(gè)控制大模型來解決問題的代理系統(tǒng)，可以理解為大模型、記憶、任務(wù)規(guī)劃以及工具使用的集合，能夠根據(jù)給定任務(wù)詳細(xì)拆解出每一步的計(jì)劃步驟，依靠外界反饋和自主思考，為自己創(chuàng)建prompt以實(shí)現(xiàn)目標(biāo)。

比爾及梅琳達(dá)·蓋茨基金會(huì)聯(lián)席主席比爾·蓋茨預(yù)計(jì)AI Agent會(huì)改變?nèi)祟惻c計(jì)算機(jī)的交互方式，帶來從輸入命令到點(diǎn)擊圖標(biāo)的計(jì)算革命，并將在醫(yī)療保健、教育、生產(chǎn)力以及娛樂和購物四個(gè)領(lǐng)域產(chǎn)生重要影響。知名科學(xué)家李飛飛認(rèn)為AI Agent作為一種輔助智能體，能夠比完全自動(dòng)化更早實(shí)現(xiàn)。DeepLearning.AI創(chuàng)始人吳恩達(dá)則期待在2024年AI Agent將會(huì)有新的突破。

從單一Agent發(fā)展到多個(gè)Agent協(xié)調(diào)合作，AI Agent可以通過將復(fù)雜任務(wù)拆解為多個(gè)子任務(wù)的分工，突破特定領(lǐng)域或場景限制，節(jié)約不同流程之間的切換時(shí)間，同時(shí)不斷提升處理特定任務(wù)的技能，提高整個(gè)系統(tǒng)的效率和產(chǎn)出質(zhì)量。

在商業(yè)化力量的推動(dòng)下，AI Agent可能會(huì)成為大模型落地業(yè)務(wù)場景的重要載體，例如幫助企業(yè)更加高效便捷地自己構(gòu)建RPA、CRM、辦公OA等一系列應(yīng)用，幫助個(gè)人規(guī)劃和執(zhí)行一系列動(dòng)作等。2024年，在AI Agent的代理下，大模型將為我們執(zhí)行更多任務(wù)。

3、多模態(tài)大模型成為AI產(chǎn)業(yè)競爭的重要陣地

人類通過視覺、語言、聽覺等感知與理解真實(shí)世界，AI作為人類智能的延伸也在拓展多模態(tài)能力，包括多模態(tài)的輸入和多模態(tài)的輸出與生成能力。多模態(tài)大模型可以處理應(yīng)用文字、圖片、視頻、音頻等多模態(tài)數(shù)據(jù)，完成聽、說、讀、寫、看等跨模態(tài)領(lǐng)域的任務(wù)，符合人類最自然的交互習(xí)慣，使人與AI的交流更加友好直接。

火爆海外的AI視頻生成工具Pika1.0，其AI模型能生成和編輯 3D 動(dòng)畫、電影等各種風(fēng)格視頻。谷歌在2023年年底推出的Gemini模型則能夠分析和理解正在變化的視頻，并生成相應(yīng)的描述，描述的音頻還會(huì)包含一些擬人化的語氣和停頓。國內(nèi)方面，2024年1月以來，通義千問視覺理解模型Qwen-VL持續(xù)升級(jí)，零一萬物Yi-VL多模態(tài)語言大模型面向全球開源，多模態(tài)模型的能力正在快速提升。

由于多模態(tài)能夠帶來更豐富的用戶體驗(yàn)、實(shí)現(xiàn)更廣泛的應(yīng)用場景，2024年多模態(tài)大模型將成為AI廠商發(fā)力的主要方向，多模態(tài)大模型正推動(dòng)人工智能邁進(jìn)“通感”時(shí)代。

4、AI應(yīng)用場景爆發(fā)，“AI+”實(shí)踐補(bǔ)齊商業(yè)化短板

2023至2024，AI賦能千行百業(yè)腳步走深。賽迪顧問數(shù)據(jù)顯示，2023 年人工智能在行業(yè)應(yīng)用的采用率已達(dá)到 28%。從行業(yè)實(shí)踐來看，人工智能率先助力金融、游戲、教育、醫(yī)療等行業(yè)重構(gòu)。

人工智能必須與應(yīng)用場景結(jié)合才能發(fā)揮最大作用。在誕生至今的60余年間，其發(fā)展幾次起落，應(yīng)用場景不足被視為前兩次浪潮歸于沉寂的主要原因之一。

人工智能面向行業(yè)的具體應(yīng)用并非易事，需要把技術(shù)邏輯、業(yè)務(wù)邏輯、場景邏輯和商業(yè)邏輯打通。2024年被視為人工智能應(yīng)用元年，場景創(chuàng)新、應(yīng)用落地、商業(yè)化拓展值得期待。在這條追求更高精度、挑戰(zhàn)更復(fù)雜任務(wù)、拓展能力邊界的演進(jìn)之路上，從業(yè)者需著眼產(chǎn)業(yè)鏈全局布局場景建設(shè)，讓AI技術(shù)革新惠及整個(gè)產(chǎn)業(yè)生態(tài)。 

5、具身智能，通用人工智能探索的下一節(jié)點(diǎn) 

具身智能（Embodied AI）可以被認(rèn)為是指能與環(huán)境交互獲取信息、理解問題、作出決策并實(shí)現(xiàn)行動(dòng)的智能系統(tǒng)。在ITF World 2023大會(huì)上，英偉達(dá)創(chuàng)始人黃仁勛公開表示，具身智能將引領(lǐng)人工智能的下一次浪潮。

機(jī)器人被認(rèn)為是具身智能落地的核心場景之一。圖靈獎(jiǎng)得主、中國科學(xué)院院士姚期智在此前表示，人工智能領(lǐng)域下一個(gè)挑戰(zhàn)將是實(shí)現(xiàn)“具身通用人工智能”，即構(gòu)建能夠通過自我學(xué)習(xí)掌握各種技能并執(zhí)行現(xiàn)實(shí)生活中的種種通用任務(wù)的高端機(jī)器人。

2023年，AI風(fēng)起，亦卷動(dòng)具身智能市場風(fēng)云。特斯拉人形機(jī)器人Optimus迭代加速，商業(yè)化持續(xù)推進(jìn)。OpenAI領(lǐng)投人形機(jī)器人公司1X，二者或共同為機(jī)器人開發(fā)AI模型。

大語言模型和多模態(tài)大模型能夠通過海量數(shù)據(jù)預(yù)訓(xùn)練從語音、視覺、感知、控制等多方面幫助機(jī)器人更好“進(jìn)化”。比如，李飛飛團(tuán)隊(duì)發(fā)布具身智能研究VoxPoser，通過接入大模型，這一項(xiàng)目使機(jī)器人能直接理解人類自然語言指令并完成復(fù)雜任務(wù)，無需額外的數(shù)據(jù)和預(yù)訓(xùn)練。 

具身智能可能成為大模型應(yīng)用元年的“高光時(shí)刻”之一。

不過，具身智能走向?qū)嵺`，還面臨不少挑戰(zhàn)。

在2023世界機(jī)器人大會(huì)上，姚期智指出，未來具身機(jī)器人還面臨四大主要挑戰(zhàn)：第一，機(jī)器人無法只通過一個(gè)基礎(chǔ)大模型直接做最底層的控制，工作相對(duì)復(fù)雜；第二，即使谷歌研發(fā)了Robotics Transformer模型，要實(shí)現(xiàn)實(shí)際控制，仍需要彌合計(jì)算能力的差距；第三，機(jī)器人多模態(tài)的感官感知的全部融合并非易事；第四，機(jī)器人研發(fā)、應(yīng)用等過程中的數(shù)據(jù)安全問題需要考慮。 

6、高質(zhì)量數(shù)據(jù)稀缺，合成數(shù)據(jù)或成解法

作為生成式人工智能的“糧食和血液”，當(dāng)前高質(zhì)量數(shù)據(jù)的供給面臨挑戰(zhàn)。一項(xiàng)來自Epoch Al Research團(tuán)隊(duì)的研究結(jié)果表明，高質(zhì)量的語言數(shù)據(jù)存量將在2026年耗盡。 

對(duì)于數(shù)據(jù)稀缺問題，合成數(shù)據(jù)或是一個(gè)解法。合成數(shù)據(jù)是指基于計(jì)算機(jī)模擬技術(shù)或算法生成的虛擬數(shù)據(jù)。國內(nèi)外企業(yè)目前在這一領(lǐng)域已經(jīng)開展不少嘗試。比如，騰訊開發(fā)自動(dòng)駕駛仿真系統(tǒng)TADSim可以自動(dòng)生成無需標(biāo)注的各種交通場景數(shù)據(jù)；人工智能初創(chuàng)公司Cohere首席執(zhí)行官AidenGomez就曾公開表示，微軟、OpenAI和Cohere等公司，已使用合成數(shù)據(jù)來訓(xùn)練AI模型。

據(jù)咨詢公司Gartner預(yù)測，到2030年，合成數(shù)據(jù)將徹底取代真實(shí)數(shù)據(jù)，成為AI模型所使用的數(shù)據(jù)的主要來源。美國AI研究機(jī)構(gòu)Cognilytica數(shù)據(jù)顯示，2021 年合成數(shù)據(jù)市場規(guī)模大概在1.1億美元，到2027 年將達(dá)到11.5億美元。

不過，當(dāng)前合成數(shù)據(jù)的保真度、可控性等仍存問題。AI訓(xùn)練數(shù)據(jù)服務(wù)商Appen發(fā)布的一篇文章中指出，相比于真實(shí)數(shù)據(jù)，合成數(shù)據(jù)缺乏異常值，這對(duì)訓(xùn)練出的模型精確度會(huì)產(chǎn)生很大影響。此外，合成數(shù)據(jù)的質(zhì)量與其生成時(shí)所用的輸入數(shù)據(jù)息息相關(guān)，因此，輸入數(shù)據(jù)的質(zhì)量也會(huì)對(duì)其產(chǎn)生影響。所以，合成數(shù)據(jù)投入使用的過程還面臨一定爭議。

因此，合成數(shù)據(jù)之外，提升真實(shí)數(shù)據(jù)質(zhì)量也是必行之措。

在國內(nèi)，多地都曾發(fā)布相關(guān)政策以求推動(dòng)建立高質(zhì)量數(shù)據(jù)集。2023年，北京、深圳等地先后發(fā)布相關(guān)文件，指出要提升高質(zhì)量數(shù)據(jù)要素供給能力、歸集高質(zhì)量基礎(chǔ)訓(xùn)練數(shù)據(jù)集、建立多模態(tài)公共數(shù)據(jù)集，打造高質(zhì)量中文語料數(shù)據(jù)等。同年7月的《生成式人工智能服務(wù)管理暫行辦法》中，亦指出要推動(dòng)生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺(tái)建設(shè)。今年國家數(shù)據(jù)局等17部門聯(lián)合印發(fā)的《“數(shù)據(jù)要素×”三年行動(dòng)計(jì)劃(2024—2026年)》指出，應(yīng)該建設(shè)高質(zhì)量語料庫和基礎(chǔ)科學(xué)數(shù)據(jù)集，支持開展人工智能大模型開發(fā)和訓(xùn)練。

7、新型智算中心、數(shù)據(jù)中心加快布局 成為關(guān)鍵基礎(chǔ)設(shè)施

大模型的發(fā)展提升了智能算力的需求，目前國內(nèi)存在高性能芯片短缺、算力資源分散、存力相對(duì)不足等問題。需求爆發(fā)式增長與算力單點(diǎn)性能極限之間的矛盾日益突出，算力節(jié)點(diǎn)通過網(wǎng)絡(luò)靈活高效調(diào)配算力資源的能力仍存在不足，算網(wǎng)協(xié)同和全局調(diào)度能力有待提高，難以滿足數(shù)據(jù)對(duì)算力隨需處理的需求。

因此，需以系統(tǒng)化思維構(gòu)建算力基礎(chǔ)設(shè)施平臺(tái)，保障算力調(diào)度，將分散的算力資源聚合，形成集群效應(yīng)，實(shí)現(xiàn)算力、數(shù)據(jù)和算法的高效協(xié)同，滿足智算應(yīng)用場景的數(shù)據(jù)處理、存儲(chǔ)、傳輸?shù)拳h(huán)節(jié)要求。

2023年10月，工信部等六部門聯(lián)合印發(fā)《算力基礎(chǔ)設(shè)施高質(zhì)量發(fā)展行動(dòng)計(jì)劃》，其中提出2025年建成50個(gè)智能計(jì)算中心等量化指標(biāo)。2024年1月工信部等八部門發(fā)布《關(guān)于加快傳統(tǒng)制造業(yè)轉(zhuǎn)型升級(jí)的指導(dǎo)意見》，提出要探索建設(shè)區(qū)域人工智能數(shù)據(jù)處理中心，提供海量數(shù)據(jù)處理、生成式人工智能工具開發(fā)等服務(wù)。

接下來，新型數(shù)據(jù)中心、智算中心的建設(shè)和布局是一個(gè)重要趨勢，提供多樣性計(jì)算綜合能力的算力集群，以滿足千行百業(yè)智能化的需求。

8、人工智能版權(quán)糾紛大量涌入司法實(shí)踐

生成式人工智能技術(shù)的快速發(fā)展給版權(quán)帶來了新的挑戰(zhàn)。

從輸入端看，涉及訓(xùn)練數(shù)據(jù)來源合法合規(guī)問題。大模型訓(xùn)練數(shù)據(jù)多來自網(wǎng)絡(luò)中抓取的電子書、藝術(shù)作品、電子郵件、歌曲，抓取時(shí)并未告知原作者，難以獲得單獨(dú)授權(quán)，面臨侵權(quán)糾紛。

在輸出端，終端用戶、模型提供者的生成內(nèi)容是否具有可版權(quán)性，模型提供者生成內(nèi)容是否侵權(quán)也未有答案。傳統(tǒng)的版權(quán)法主要針對(duì)人類創(chuàng)作者的作品進(jìn)行保護(hù)，而現(xiàn)在則涉及機(jī)器生成的內(nèi)容。

目前司法實(shí)踐中，紐約時(shí)報(bào)指控OpenAI和微軟訓(xùn)練大模型使用《紐約時(shí)報(bào)》大量文本內(nèi)容侵犯其版權(quán)，是輸入端的一個(gè)案例。

北京互聯(lián)網(wǎng)法院也作出了第一例人工智能生成內(nèi)容的著作權(quán)糾紛判決，是輸出端的一個(gè)案例。

2024年，伴隨著人工智能技術(shù)的不斷應(yīng)用，大概率會(huì)有大量版權(quán)糾紛案件涌入司法實(shí)務(wù)環(huán)節(jié)。 

9、一批AI創(chuàng)業(yè)公司會(huì)在2024年倒閉 

2023年人工智能領(lǐng)域資本市場火熱。IDC最新數(shù)據(jù)顯示，2022年全球人工智能IT總投資規(guī)模為1,288億美元，2027年預(yù)計(jì)增至4236億美元，五年復(fù)合增長率（CAGR）約為26.9%。

截至2023年12月末，涉及人工智能產(chǎn)業(yè)鏈的境內(nèi)A股上市公司已超過400家，業(yè)務(wù)領(lǐng)域上涵蓋了人工智能產(chǎn)業(yè)鏈的各個(gè)環(huán)節(jié)。科創(chuàng)板已匯聚十家人工智能產(chǎn)業(yè)鏈企業(yè)，合計(jì)市值逾4000億元，初步覆蓋基礎(chǔ)層、技術(shù)層及應(yīng)用層等環(huán)節(jié)，涵蓋AI芯片、行業(yè)大模型、智能機(jī)器人、計(jì)算機(jī)與3D視覺等多個(gè)細(xì)分賽道。

不過，從海外來看，AI初創(chuàng)公司融資速度正在放緩，Stability AI 和 Jasper 等初創(chuàng)公司都陷入困境。

2024年人工智能創(chuàng)業(yè)公司面臨多重挑戰(zhàn)。

市場競爭方面，大型公司憑借其資源和品牌優(yōu)勢占據(jù)大部分市場份額，使得許多初創(chuàng)AI企業(yè)難以立足。資金和融資方面，前期大把燒錢卻沒有實(shí)際商業(yè)化落地，融資會(huì)變得越發(fā)困難。尤其是商業(yè)化和產(chǎn)品落地是最大的挑戰(zhàn)，如果產(chǎn)品與實(shí)際業(yè)務(wù)場景結(jié)合不夠緊密，商業(yè)化進(jìn)程受阻。

此外，還面臨法律政策的適應(yīng)性問題，全球各國、地區(qū)監(jiān)管動(dòng)態(tài)密集，不確定性強(qiáng)。數(shù)據(jù)隱私和安全合規(guī)作為底線，可能增加成本。

10、安全可信AI訴求催生新技術(shù)、新商業(yè)工具

Gartner預(yù)測，生成式AI或?qū)⒂瓉砣窕瘯r(shí)代，到2026年，將有超過80%的企業(yè)使用生成式AI的API或模型，或在生產(chǎn)環(huán)境中部署支持生成式AI的應(yīng)用，而在2023年初這一比例還不到5%。

伴隨著人工智能的大規(guī)模應(yīng)用，安全問題變得更加迫切。2023年以來，生成式人工智能快速發(fā)展的同時(shí)，數(shù)據(jù)泄露、個(gè)人隱私風(fēng)險(xiǎn)、虛假信息、大模型“幻覺”、算法黑箱......等問題也隨之而來。2023年11月，OpenAI的宮斗大戲把安全對(duì)齊、科技倫理等深層安全問題暴露在大眾視野中。

人工智能的安全問題可分為三個(gè)維度，第一是內(nèi)生風(fēng)險(xiǎn)，包括“幻覺”問題、算法歧視、算法黑箱等，第二是衍生風(fēng)險(xiǎn)，其在應(yīng)用中的風(fēng)險(xiǎn)，比如虛假新聞、個(gè)人信息泄露等，第三則是外部風(fēng)險(xiǎn)，外部對(duì)模型、系統(tǒng)的攻擊。

面對(duì)多重風(fēng)險(xiǎn)，構(gòu)建安全可信的人工智能已成為共識(shí)。未來在解決AI風(fēng)險(xiǎn)的過程中，可能會(huì)催生出針對(duì)安全對(duì)齊、可解釋性等新技術(shù)。

此外，針對(duì)人工智能內(nèi)生安全風(fēng)險(xiǎn)、服務(wù)商風(fēng)險(xiǎn)、應(yīng)用產(chǎn)生的數(shù)據(jù)泄露風(fēng)險(xiǎn)等多維度安全風(fēng)險(xiǎn)，或也會(huì)催生新型的商業(yè)工具。此前，一家知名保險(xiǎn)公司宣布推出專為AI幻覺設(shè)計(jì)的保險(xiǎn)政策。

解決人工智能安全風(fēng)險(xiǎn)是底線，在對(duì)安全剛性要求的背景下，或能催生新的安全技術(shù)或者商業(yè)工具。

來源：21世紀(jì)經(jīng)濟(jì)報(bào)道 作者：馮戀閣,王俊