經(jīng)濟觀察網(wǎng) 記者 沈怡然 9月8日，在海致科技知識圖譜與大模型融合應用平臺發(fā)布會上，中國工程院院士鄭緯民表示，建議將知識圖譜技術與大模型技術深度融合，有效解決大模型在企業(yè)級和工業(yè)界應用中出現(xiàn)的“幻覺”問題。                     

鄭緯民是中國高性能計算和存儲系統(tǒng)等方面的泰斗和先行者，也是清華大學計算機科學與技術系教授。海致科技成立于2013年，專注知識圖譜和圖計算技術，鄭緯民曾在該公司設立“高性能圖計算院士工作站”。

鄭緯民在會上演示發(fā)布了由海致科技與高性能圖計算院士工作站共同開發(fā)的“Atlas LLM知識圖譜與大模型融合應用平臺”，該平臺面向廣大B端用戶，運用知識圖譜幫助大模型在企業(yè)級和工業(yè)界應用中克服“幻覺”，實現(xiàn)基于行業(yè)與場景的精準推演。

大語言模型具備跨領域通用性、快速自主學習和自我改進能力，不僅用于內(nèi)容創(chuàng)作產(chǎn)業(yè)，還被政府、金融、醫(yī)療機構當作新的生產(chǎn)工具。鄭緯民表示，目前大模型存在“幻覺”問題，難以應用在容錯率低、精確度高、較為嚴謹?shù)墓ぷ黝I域。

簡單說，“幻覺”就是大模型在人機對話中給出一些事實錯誤、推理錯誤，難以實時更新信息、沒有時間概念，無法給專業(yè)領域提供可靠的回答。

鄭緯民具體解釋，由于大語言模型的基本工作方式是分析文本中的詞匯、句法結(jié)構、語義信息等，并捕捉它們之間的模式和概率分布，因此，它更傾向于基于統(tǒng)計規(guī)律生成回答，而非進行深入的邏輯推理或形成高級的認知能力。另外，它在生成文本時可能會受限于訓練數(shù)據(jù)中存在的偏見和誤導性信息，在某些情況下可能會產(chǎn)生不準確或不合理的回答。

鄭緯民表示，可以看出，模型并不能真正地理解語言，知識根據(jù)某些統(tǒng)計規(guī)律來連接它之前見過的片段，模型也不懂數(shù)據(jù)，缺乏嚴格的演繹推理能力。短期來看，單純依靠大模型自身的迭代很難解決該問題。一個有效辦法是，利用知識圖譜技術幫助模型解決這些問題。

知識圖譜也是人工智能學術體系中的關鍵技術之一，自2012年開始流行，是一種用圖模型來描述知識和建模世界萬物之間的關聯(lián)關系的技術方法，這種技術具備可靠程度高、可解釋性強、復雜推理能力強等優(yōu)勢。

鄭緯民表示，知識圖譜技術作為公認“類腦”的知識表達方式，通過對語義網(wǎng)絡進行建模，以結(jié)構化的形式描述客觀世界中實體及關系，已經(jīng)被廣泛用于知識推理。

可以說，知識圖譜具備精確的知識推導能力，可以與大模型技術形成互補。鄭緯民表示，在具體操作中，利用知識圖譜對大模型進行輔助訓練，可提高大模型的可控性，給大模型做領域適配，提高模型在某些專業(yè)領域的推理能力。