經(jīng)濟(jì)觀察網(wǎng) 記者 任曉寧 9月11日上午的騰訊全球數(shù)字生態(tài)大會上，與會人士透露的一個數(shù)據(jù)令人觸目驚心：15.6%的未成年人表示曾遭遇網(wǎng)絡(luò)侵害，最常見的是網(wǎng)絡(luò)欺凌、色情引誘、個人信息泄露等。特別是，疫情防控期間，網(wǎng)絡(luò)侵害問題更為突出。

根據(jù)《2019年全國未成年人互聯(lián)網(wǎng)使用情況研究報告》，2019年我國未成年網(wǎng)民規(guī)模為1.75億，未成年人互聯(lián)網(wǎng)普及率達(dá)到93.1%。有統(tǒng)計數(shù)據(jù)顯示，目前我國年齡低于10歲的網(wǎng)民已超過1800萬，56%的兒童初次上網(wǎng)的年齡低于5歲。

目前，國內(nèi)多個互聯(lián)網(wǎng)內(nèi)容領(lǐng)域均施行了監(jiān)管審核，但針對更廣泛的網(wǎng)絡(luò)內(nèi)容監(jiān)管審核手段較少，存在較大的真空地帶，未成年人上網(wǎng)內(nèi)容審核和分級迫在眉睫。今年上半年，國家掃黃打非辦的“護(hù)苗2020”專項行動中，查刪處置淫穢色情、恐怖暴力、低俗惡俗等不良信息超過603萬條；查繳非法有害少兒類出版物13.2萬多冊。

為幫助解決上述問題，騰訊AI團(tuán)隊優(yōu)圖及安全團(tuán)隊天御今天聯(lián)手發(fā)布了面向未成年人的內(nèi)容安全審核解決方案。

據(jù)了解，騰訊推出的方案，在標(biāo)準(zhǔn)內(nèi)容審核基礎(chǔ)能力之上，增加了很多針對未成年設(shè)計的能力。例如性感、抽煙、喝酒等成年人內(nèi)容，都有相應(yīng)的識別過濾能力。還專門擴(kuò)展了違規(guī)內(nèi)容主體是否是未成年人的識別能力，如識別“未成年人直播”、“兒童裸露”等不良行為和圖片等。

騰訊介紹說，這套解決方案對于明顯色情圖片的召回率超過 96%；對于煙賭毒、紋身、床上直播等行為的召回率能夠達(dá)到80%以上。在識別“未成年人直播”、“兒童裸露”等不良行為和圖片，以“區(qū)分14歲以上或以下”為測試標(biāo)準(zhǔn)，召回率接近80%。

騰訊方面稱，因為AI技術(shù)的介入，讓內(nèi)容審核的速度和效率大大提升，通過應(yīng)用“AI機(jī)器審核+人工復(fù)審”的模式，能夠更快更好地覆蓋更廣泛的內(nèi)容，讓對未成年人的內(nèi)容管理真正成為可能。