經(jīng)濟(jì)觀察網(wǎng) 記者 任曉寧 9月11日上午的騰訊全球數(shù)字生態(tài)大會上,與會人士透露的一個數(shù)據(jù)令人觸目驚心:15.6%的未成年人表示曾遭遇網(wǎng)絡(luò)侵害,最常見的是網(wǎng)絡(luò)欺凌、色情引誘、個人信息泄露等。特別是,疫情防控期間,網(wǎng)絡(luò)侵害問題更為突出。
根據(jù)《2019年全國未成年人互聯(lián)網(wǎng)使用情況研究報告》,2019年我國未成年網(wǎng)民規(guī)模為1.75億,未成年人互聯(lián)網(wǎng)普及率達(dá)到93.1%。有統(tǒng)計數(shù)據(jù)顯示,目前我國年齡低于10歲的網(wǎng)民已超過1800萬,56%的兒童初次上網(wǎng)的年齡低于5歲。
目前,國內(nèi)多個互聯(lián)網(wǎng)內(nèi)容領(lǐng)域均施行了監(jiān)管審核,但針對更廣泛的網(wǎng)絡(luò)內(nèi)容監(jiān)管審核手段較少,存在較大的真空地帶,未成年人上網(wǎng)內(nèi)容審核和分級迫在眉睫。今年上半年,國家掃黃打非辦的“護(hù)苗2020”專項行動中,查刪處置淫穢色情、恐怖暴力、低俗惡俗等不良信息超過603萬條;查繳非法有害少兒類出版物13.2萬多冊。
為幫助解決上述問題,騰訊AI團(tuán)隊優(yōu)圖及安全團(tuán)隊天御今天聯(lián)手發(fā)布了面向未成年人的內(nèi)容安全審核解決方案。
據(jù)了解,騰訊推出的方案,在標(biāo)準(zhǔn)內(nèi)容審核基礎(chǔ)能力之上,增加了很多針對未成年設(shè)計的能力。例如性感、抽煙、喝酒等成年人內(nèi)容,都有相應(yīng)的識別過濾能力。還專門擴(kuò)展了違規(guī)內(nèi)容主體是否是未成年人的識別能力,如識別“未成年人直播”、“兒童裸露”等不良行為和圖片等。
騰訊介紹說,這套解決方案對于明顯色情圖片的召回率超過 96%;對于煙賭毒、紋身、床上直播等行為的召回率能夠達(dá)到80%以上。在識別“未成年人直播”、“兒童裸露”等不良行為和圖片,以“區(qū)分14歲以上或以下”為測試標(biāo)準(zhǔn),召回率接近80%。
騰訊方面稱,因為AI技術(shù)的介入,讓內(nèi)容審核的速度和效率大大提升,通過應(yīng)用“AI機(jī)器審核+人工復(fù)審”的模式,能夠更快更好地覆蓋更廣泛的內(nèi)容,讓對未成年人的內(nèi)容管理真正成為可能。
京公網(wǎng)安備 11010802028547號