隨著生成式人工智能技術(shù)高速發(fā)展，AI也闖入了人類(lèi)社會(huì)的社交場(chǎng)景中。去年12月以來(lái)，一位“捧哏高手”頻繁出沒(méi)于網(wǎng)友們的評(píng)論區(qū)——有時(shí)，ta會(huì)給你一個(gè)暖心的回復(fù)；而有時(shí)，ta的言辭卻讓你哭笑不得，甚至有些“毒舌”。

這位活躍的“用戶”并非真人，而是微博的虛擬社交機(jī)器人“評(píng)論羅伯特”。而另一邊，百度推出的問(wèn)答機(jī)器人“貼吧包打聽(tīng)”也以“答題永不停”引發(fā)了網(wǎng)友的注意。

相關(guān)研究指出，社交媒體的生態(tài)正從完全由“人”主導(dǎo)變?yōu)椤叭?社交機(jī)器人”的共生狀態(tài)。當(dāng)AI機(jī)器人試圖成為你的“賽博好友”，你會(huì)歡迎還是觀望？邁入“人機(jī)共生”時(shí)代，又有哪些新挑戰(zhàn)和新風(fēng)險(xiǎn)值得關(guān)注？

AI出沒(méi)評(píng)論區(qū)：時(shí)而暖心，時(shí)而胡說(shuō)八道

據(jù)了解，“評(píng)論羅伯特”的前身是“評(píng)論哇噻機(jī)器人”，于去年12月升級(jí)迭代，網(wǎng)友發(fā)布原創(chuàng)微博或@評(píng)論羅伯特即有可能獲得機(jī)器人回復(fù)。截至發(fā)稿，該賬號(hào)已收獲42.7萬(wàn)粉絲。

在官方解釋中，它的定位是“天生的捧哏，有趣的靈魂，不知疲倦的顯眼包”。而平臺(tái)上線它的初衷是“優(yōu)化普通用戶的發(fā)博體驗(yàn)，提升普通用戶在平臺(tái)內(nèi)容生產(chǎn)中的活躍度”。

盡管“羅伯特”不辭辛苦地到網(wǎng)友的評(píng)論區(qū)“打卡上班”，網(wǎng)友對(duì)其態(tài)度卻是褒貶不一。有些網(wǎng)友喜歡它的捧場(chǎng)，有些網(wǎng)友會(huì)主動(dòng)與它互動(dòng)，將其作為一種排解寂寞的方式：“謝謝你，每次都只有你聽(tīng)我說(shuō)廢話” ；而有些網(wǎng)友則稱(chēng)這是“一種毫無(wú)情感、敷衍的機(jī)器評(píng)論”。

21記者搜索發(fā)現(xiàn)，目前這位“羅伯特”的捧哏功力發(fā)揮得不太穩(wěn)定，有時(shí)會(huì)給出正能量的暖心評(píng)論，有時(shí)則會(huì)“一本正經(jīng)地胡說(shuō)八道”。

為了吐槽“羅伯特”的“翻車(chē)”言論，還有網(wǎng)友專(zhuān)門(mén)建立了“羅伯特受害者聯(lián)盟”賬號(hào)，收集羅伯特“冒犯人類(lèi)的證據(jù)”。目前，該賬號(hào)已經(jīng)發(fā)布了2800多條內(nèi)容，有13.2萬(wàn)粉絲。還有人建立了不少“高仿號(hào)”，模仿“羅伯特”的評(píng)論風(fēng)格。

實(shí)際上，“羅伯特”并不是中文互聯(lián)網(wǎng)上第一個(gè)引發(fā)關(guān)注的社交機(jī)器人。此前，微軟“小冰”、百度“貼吧包打聽(tīng)”也能實(shí)現(xiàn)類(lèi)似的互動(dòng)功能。例如，網(wǎng)友在任意貼吧中發(fā)布求助帖或@貼吧包打聽(tīng)，機(jī)器人就會(huì)進(jìn)行回帖。但也有用戶反饋稱(chēng)，問(wèn)答機(jī)器人在回復(fù)的時(shí)效性、針對(duì)性和準(zhǔn)確性方面仍存在不足。

“社交機(jī)器人本質(zhì)上是一種對(duì)話式人工智能，是通過(guò)自然語(yǔ)言的輸入訓(xùn)練得來(lái)的人工智能應(yīng)用。例如‘評(píng)論羅伯特’就是基于微博的數(shù)據(jù)訓(xùn)練而成。”對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心執(zhí)行主任張欣在接受21記者采訪時(shí)指出，AI評(píng)論機(jī)器人本身作為技術(shù)理想狀態(tài)下應(yīng)該是中立性的，但會(huì)受到訓(xùn)練數(shù)據(jù)和設(shè)計(jì)者對(duì)其定位的影響，例如將其定位為“有趣的靈魂”，會(huì)使得其生成的評(píng)論內(nèi)容體現(xiàn)出一定的特點(diǎn)和偏好。

談到AI價(jià)值取向的問(wèn)題，北京航空航天大學(xué)法學(xué)院副教授、北京科技創(chuàng)新中心研究基地副主任趙精武表示，“工具善惡論”的爭(zhēng)論一直存在，社交機(jī)器人僅僅是代碼的集合體而已，社交機(jī)器人進(jìn)入社交媒體后，對(duì)網(wǎng)絡(luò)信息內(nèi)容生態(tài)體系的影響完全取決于如何使用。

“例如，正面的影響是能夠提升社交媒體的活躍度，同時(shí)，能夠傳播正向價(jià)值的社交機(jī)器人還能在一定程度上消弭‘網(wǎng)絡(luò)戾氣’，對(duì)網(wǎng)絡(luò)暴力治理也有一定的幫助。負(fù)面的影響是一旦被濫用，則有可能成為操作網(wǎng)絡(luò)輿論的社會(huì)風(fēng)險(xiǎn)，甚至直接威脅國(guó)家安全。”趙精武說(shuō)。

張欣也提示道，社交機(jī)器人在增添信息生態(tài)活躍度、提供個(gè)性化信息服務(wù)等方面能帶來(lái)正面影響，但其負(fù)面影響是更值得關(guān)注的。“一方面，社交機(jī)器人的評(píng)論完全自主生成，其生成的內(nèi)容可能具有誤導(dǎo)性、虛假性特征，同時(shí)可能引發(fā)輿論爭(zhēng)端，從而衍生一系列法律和倫理風(fēng)險(xiǎn)。另一方面，社交機(jī)器人還能被用于操縱輿論，對(duì)高質(zhì)量的公共溝通帶來(lái)實(shí)質(zhì)性破壞。”

社交機(jī)器人操縱輿論的風(fēng)險(xiǎn)也引發(fā)了海外學(xué)者的關(guān)注。例如，倫敦大學(xué)此前的一項(xiàng)研究通過(guò)一組預(yù)設(shè)標(biāo)簽獲得了英國(guó)脫歐公投前后兩周內(nèi)全部推文及其來(lái)源賬號(hào)，并基于網(wǎng)絡(luò)特征識(shí)別機(jī)器人賬號(hào)，發(fā)現(xiàn)有將近34%的賬號(hào)為機(jī)器人賬號(hào)。

引導(dǎo)AI向善：個(gè)人隱私、知產(chǎn)問(wèn)題值得關(guān)注 

還有網(wǎng)友表示，社交機(jī)器人高頻與用戶互動(dòng)，并以此抓取收集、分析數(shù)據(jù)，可能會(huì)帶來(lái)個(gè)人信息、知識(shí)產(chǎn)權(quán)方面的侵權(quán)隱憂。對(duì)此，開(kāi)發(fā)者應(yīng)注意哪些合規(guī)要點(diǎn)，以規(guī)避侵權(quán)風(fēng)險(xiǎn)？

張欣告訴21記者，社交機(jī)器人在訓(xùn)練過(guò)程中使用自然語(yǔ)言處理技術(shù)，使得機(jī)器能夠理解、處理和生成人類(lèi)日常語(yǔ)言。通過(guò)自然語(yǔ)言處理技術(shù)，機(jī)器人可以解析、分析和理解用戶的輸入，并生成相應(yīng)的響應(yīng)，從而模擬人類(lèi)的對(duì)話行為，實(shí)現(xiàn)語(yǔ)義上的交流。因此，其在訓(xùn)練、部署和應(yīng)用的過(guò)程中涉及數(shù)據(jù)、算法、模型、應(yīng)用等多個(gè)組件和環(huán)節(jié)，開(kāi)發(fā)者和部署者應(yīng)遵循《個(gè)人信息保護(hù)法》、《生成式人工智能服務(wù)管理暫行辦法》以及《互聯(lián)網(wǎng)新聞信息服務(wù)新技術(shù)新應(yīng)用安全評(píng)估實(shí)施規(guī)范》以及《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》等相關(guān)規(guī)定。

趙精武也指出，如果涉及抓取用戶個(gè)人信息，開(kāi)發(fā)者需要遵守《個(gè)人信息保護(hù)法》規(guī)定的強(qiáng)制性義務(wù)，包括但不限于“事前告知以用戶個(gè)人信息收集的目的、范圍和方式”“只有獲得用戶明確同意后才能收集用戶個(gè)人信息”“個(gè)人信息的處理行為應(yīng)當(dāng)符合最小必要原則”等。如果涉及知識(shí)產(chǎn)權(quán)保護(hù)問(wèn)題，開(kāi)發(fā)者需要確保社交機(jī)器人的生成內(nèi)容不會(huì)與受到著作權(quán)保護(hù)的作品“雷同”。

目前，社交機(jī)器人還在“成長(zhǎng)”階段，開(kāi)發(fā)者可以通過(guò)哪些手段，使其表現(xiàn)更符合社會(huì)的倫理道德規(guī)范？

“在人工智能研發(fā)實(shí)踐中，開(kāi)發(fā)者可以依據(jù)不同的技術(shù)路線和應(yīng)用場(chǎng)景使用人工智能對(duì)齊方法，促使社交機(jī)器人的表現(xiàn)更符合道德性和可控性，從而與人類(lèi)的倫理道德規(guī)范對(duì)齊。”張欣補(bǔ)充道，可以通過(guò)外部反饋對(duì)人工智能進(jìn)行對(duì)齊訓(xùn)練，也可以通過(guò)分布偏移下學(xué)習(xí)的方法實(shí)現(xiàn)內(nèi)對(duì)齊。與此同時(shí)，還可以在部署環(huán)節(jié)通過(guò)行為評(píng)估、可解釋性技術(shù)、紅隊(duì)測(cè)試、形式化驗(yàn)證等方法實(shí)現(xiàn)全周期視角的對(duì)齊保證。

“最后，人工智能治理生態(tài)也是不可或缺的部分。僅靠對(duì)齊技術(shù)難以充分確保人工智能在復(fù)雜世界部署的過(guò)程中的表現(xiàn)，還需要適當(dāng)配合內(nèi)容過(guò)濾等平臺(tái)治理手段和用戶社群反饋、參與式治理等方式協(xié)同進(jìn)行。”張欣強(qiáng)調(diào)。

趙精武認(rèn)為，具體可以采取三種手段：其一，科技倫理審查機(jī)制。開(kāi)發(fā)者在開(kāi)發(fā)和設(shè)計(jì)社交機(jī)器人時(shí)應(yīng)當(dāng)對(duì)該類(lèi)技術(shù)的安全風(fēng)險(xiǎn)、科技倫理風(fēng)險(xiǎn)進(jìn)行審查。其二，優(yōu)化訓(xùn)練數(shù)據(jù)的選取。開(kāi)發(fā)者可以對(duì)算法模型優(yōu)化所采用的訓(xùn)練數(shù)據(jù)進(jìn)行調(diào)整，優(yōu)化社交機(jī)器人的輸出內(nèi)容。其三，敏感詞識(shí)別機(jī)制。在社交機(jī)器人生成網(wǎng)絡(luò)信息之前，對(duì)生成內(nèi)容進(jìn)行敏感詞識(shí)別，篩除和調(diào)整可能存在違背倫理道德的信息內(nèi)容。

平臺(tái)方面也在做出調(diào)整，向用戶公開(kāi)社交機(jī)器人的相關(guān)運(yùn)行機(jī)制。例如，微博近期回應(yīng)稱(chēng)，“評(píng)論羅伯特”學(xué)習(xí)所用的語(yǔ)料均為平臺(tái)上的公開(kāi)內(nèi)容，不包含“注冊(cè)信息”“私信”等任何用戶非公開(kāi)信息，同時(shí)會(huì)對(duì)數(shù)據(jù)做匿名化等脫敏處理。此外，會(huì)對(duì)“評(píng)論羅伯特”生成的內(nèi)容進(jìn)行安全層面的機(jī)器檢測(cè)，確保其發(fā)言符合法律法規(guī)及社區(qū)公約。

來(lái)源：21世紀(jì)經(jīng)濟(jì)報(bào)道 作者： 鐘雨欣