“私營(yíng)企業(yè)推動(dòng)革命性新技術(shù)的邊界前進(jìn)時(shí)，我們是否可以期待它們?cè)诜瞎蓶|利益的同時(shí)也符合更廣泛世界的利益？”

近日，OpenAI兩名前董事海倫·托納(（Helen Toner）、塔莎·麥考利（Tasha McCauley）在《經(jīng)濟(jì)學(xué)人》上撰文，指出該公司存在巨大的管理漏洞，并將矛頭直指CEO山姆·奧特曼（Sam Altman）。

兩人分別于2018年、2021年加入該公司董事會(huì)。進(jìn)入OpenAI時(shí)，她們對(duì)公司自我治理的創(chuàng)新方法可能為負(fù)責(zé)任的AI發(fā)展提供藍(lán)圖持謹(jǐn)慎樂(lè)觀態(tài)度。

成立之初， OpenAI被認(rèn)為是一家非營(yíng)利機(jī)構(gòu)，旨在確保人工通用智能（AGI）或比人類更聰明的人工智能系統(tǒng)將“惠及全人類”。但為了籌集必要的資金，OpenAI創(chuàng)建了一個(gè)營(yíng)利性子公司，同時(shí)由非營(yíng)利機(jī)構(gòu)掌權(quán)。

她們?cè)谖闹蟹Q，設(shè)計(jì)這一前所未有的結(jié)構(gòu)，目的在于維護(hù)堅(jiān)持其原始使命，董事會(huì)的任務(wù)就是維護(hù)這一使命，“不幸的是，它沒(méi)有成功。”

而在ChatGPT橫空出世以后，OpenAI在商業(yè)化的道路上狂奔。直到“解雇門”事發(fā)，公司內(nèi)部的巨大矛盾才被外界窺見(jiàn)。

二人在文章中針對(duì)奧特曼被解雇一事給出了正面回應(yīng)，這也是該公司內(nèi)部人士首次在媒體上針對(duì)這一事件進(jìn)行回應(yīng)。

她們提及，之所以O(shè)penAI董事會(huì)解雇了奧特曼，是為了挽救公司的自我監(jiān)管結(jié)構(gòu)。長(zhǎng)期以來(lái)，奧特曼的行為模式導(dǎo)致董事會(huì)維護(hù)公司使命的能力越來(lái)越受限，包括削弱董事會(huì)對(duì)關(guān)鍵決策和內(nèi)部安全協(xié)議的監(jiān)督。

該公司多位高管私下向董事會(huì)表達(dá)憂慮，認(rèn)為奧特曼培養(yǎng)了一種“充滿謊言的有毒文化”，并參與了“可以定性為心理虐待的行為”。

針對(duì)去年震驚全球的“解雇門”，二人直言她們并不后悔通過(guò)解雇奧特曼來(lái)重塑OpenAI，但仍然擔(dān)心OpenAI在推動(dòng)技術(shù)進(jìn)步方面的作用。

“自?shī)W特曼重返掌舵以來(lái)的發(fā)展，尤其是高級(jí)安全人才的離職，預(yù)示著OpenAI自治實(shí)驗(yàn)的不祥之兆。”她們說(shuō)道。

奧特曼重返OpenAI后，該公司曾對(duì)外表示，董事會(huì)“在其廣泛自由裁量權(quán)內(nèi)”解雇了奧特曼，但也得出結(jié)論認(rèn)為他的行為“沒(méi)有要求解雇”。

二人質(zhì)疑，OpenAI幾乎沒(méi)有提供具體的理由來(lái)證明上述結(jié)論，也沒(méi)有將調(diào)查報(bào)告公開(kāi)給員工、媒體或公眾。

一直以來(lái)，AI安全問(wèn)題備受關(guān)注。兩位前OpenAI董事認(rèn)為，根據(jù)經(jīng)驗(yàn)，自我治理無(wú)法可靠地抵御利潤(rùn)激勵(lì)的壓力。“AI具有巨大的正面和負(fù)面影響潛力，僅僅假設(shè)這樣的激勵(lì)措施總是與公共利益相一致是不夠的。為了AI的崛起能夠惠及每個(gè)人，政府必須現(xiàn)在開(kāi)始構(gòu)建有效的監(jiān)管框架。”

她們指出，OpenAI提供了教訓(xùn)，即社會(huì)絕不能讓AI的推出完全由私營(yíng)科技公司控制。缺乏外部監(jiān)督的自我監(jiān)管最終將變得無(wú)法執(zhí)行，尤其是在巨大利潤(rùn)激勵(lì)的壓力下。因此，政府必須發(fā)揮積極作用。

近幾個(gè)月來(lái)，從華盛頓議員到硅谷投資者，越來(lái)越多的人主張對(duì)AI進(jìn)行最少的政府監(jiān)管，并將AI與上世紀(jì)90年代互聯(lián)網(wǎng)帶來(lái)的經(jīng)濟(jì)增長(zhǎng)相提并論。“然而，這種類比是誤導(dǎo)性的。”二人觀察到，在AI公司內(nèi)部以及研究人員和工程師社區(qū)中，AI帶來(lái)的巨大風(fēng)險(xiǎn)正在被廣泛承認(rèn)。

奧特曼也稱，“成功過(guò)渡到一個(gè)擁有超級(jí)智能的世界可能是人類歷史上最重要的、充滿希望的、可怕的工程。”許多頂尖AI科學(xué)家對(duì)他們自己正在構(gòu)建的技術(shù)表達(dá)了憂慮，這與早期互聯(lián)網(wǎng)的程序員和網(wǎng)絡(luò)工程師的樂(lè)觀態(tài)度大不相同。

托納和麥考利強(qiáng)調(diào)，由于缺乏有效監(jiān)管，AI帶來(lái)了以下三大問(wèn)題：一是成功的科技公司及其投資者從在線商業(yè)的缺乏監(jiān)管中獲得了巨大的利益。二是社會(huì)在監(jiān)管社交媒體上的錯(cuò)誤信息和不實(shí)信息、兒童剝削和人口販賣以及日益嚴(yán)重的青少年心理健康危機(jī)方面是否達(dá)到了正確的平衡。此外，明智的監(jiān)管可以確保AI的利益得到負(fù)責(zé)任和更廣泛地實(shí)現(xiàn)。政府應(yīng)當(dāng)制定政策，且加強(qiáng)設(shè)計(jì)管理，讓更多人了解AI前沿的進(jìn)展情況，如透明度要求和事件跟蹤。

二人認(rèn)為，設(shè)計(jì)不當(dāng)?shù)谋O(jiān)管可能會(huì)給小公司帶來(lái)不成比例的負(fù)擔(dān)，扼殺競(jìng)爭(zhēng)和創(chuàng)新。在制定新規(guī)時(shí)，政策制定者必須獨(dú)立于領(lǐng)先的AI公司。監(jiān)管框架需要靈活調(diào)整，以跟上AI能力對(duì)世界不斷增長(zhǎng)的理解。

“我們相信AI有潛力以前所未有的方式提高人類的生產(chǎn)力和福祉，但通往更好未來(lái)的道路并非沒(méi)有危險(xiǎn)。”她們表示。

在二人看來(lái)，OpenAI成立是一個(gè)大膽的實(shí)驗(yàn)，旨在優(yōu)先考慮公共利益，而非為了利潤(rùn)開(kāi)發(fā)越來(lái)越強(qiáng)大的AI。“但我們的經(jīng)驗(yàn)是，即使擁有所有優(yōu)勢(shì)，OpenAI采用的自我治理機(jī)制也不足以滿足需求。公共部門緊密參與技術(shù)發(fā)展是至關(guān)重要的。”她們說(shuō)。

此前屢次對(duì)OpenAI進(jìn)行抨擊的馬斯克也稱，“訓(xùn)練AI沒(méi)有最大程度追求真相，這對(duì)人類很危險(xiǎn)。”

這次發(fā)文之所以引發(fā)外界側(cè)目，還在于前段時(shí)間OpenAI被曝要求離職員工簽署帶有“不貶損承諾”的離職協(xié)議，否則就要放棄公司期權(quán)。

盡管奧特曼表示對(duì)此并不知情，但在隨后曝光的協(xié)議中，他的簽名赫然在列。很快，又有消息稱該公司取消了“不貶損承諾”的離職協(xié)議。

導(dǎo)致OpenAI深陷輿論漩渦的還有其核心人物伊爾亞·蘇茨克維（Ilya Sutskever）的離職，以及核心安全團(tuán)隊(duì)“超級(jí)對(duì)齊”也在近日被曝解散。他們?cè)陔x職后紛紛通過(guò)社交媒體批評(píng)OpenAI的治理方式。

或是作為回應(yīng)，OpenAI成立了一個(gè)董事會(huì)委員會(huì)，用來(lái)評(píng)估其人工智能模型的安全性。這一舉措距離該公司解散內(nèi)部安全團(tuán)隊(duì)以及安全問(wèn)題負(fù)責(zé)人離職僅數(shù)周時(shí)間。

新成立的委員會(huì)將在90天內(nèi)評(píng)估OpenAI技術(shù)的保障措施，并提交報(bào)告。“董事會(huì)完成全面審查后，OpenAI將以符合安全原則的方式公開(kāi)分享所采納的建議。”該公司周二在其博客中寫道。OpenAI還表示，他們最近已經(jīng)開(kāi)始訓(xùn)練其最新的AI模型。

面對(duì)高管離職、員工保密協(xié)議爭(zhēng)議以及盜用好萊塢女演員聲音等一連串負(fù)面事件，奧特曼能否以“受損”的個(gè)人信譽(yù)帶領(lǐng)OpenAI持續(xù)向前，將是短期內(nèi)AI行業(yè)的重要議題之一。

轉(zhuǎn)載來(lái)源：界面新聞 作者：陳振芳