7月15日，小紅書公布2020年第二季度社區(qū)生態(tài)治理報告，報告顯示，小紅書當(dāng)季處理涉嫌刷量筆記66萬篇，實時攔截和清理黑產(chǎn)刷量行為超過1.3億次，巡回攔截和清理黑產(chǎn)刷量行為超過1.3億次。

此外，在二季度啟動的小紅書生態(tài)專項治理中，重點打擊惡意營銷、評論區(qū)廣告引流等用戶高頻舉報的內(nèi)容。經(jīng)過一個季度強力打擊，評論廣告舉報量環(huán)比降低了44%。

“這意味著用戶看到或者感受到的，有反感的內(nèi)容量明顯下降，并且在趨勢上也越來越少。”小紅書生態(tài)治理專項組負責(zé)人表示。

在反作弊領(lǐng)域，平臺還基于社區(qū)關(guān)系圖，全面使用圖計算相關(guān)技術(shù)，提高了灰黑產(chǎn)識別的覆蓋率，使模型每天能夠在原有打擊量基礎(chǔ)上提供10%增力。

小紅書方面表示，社區(qū)生態(tài)治理是一個長期不間斷的工作，第三季度將重點放在直播內(nèi)容治理上，針對惡意導(dǎo)流、低俗直播及不良社會價值導(dǎo)向類直播的進行重點打擊。

嚴打標(biāo)題黨惡意營銷 封禁賬號終身禁入

小紅書在今年4月表示，將在二季度啟動社區(qū)專項治理，針對社區(qū)內(nèi)經(jīng)常受到舉報的詐騙引流、網(wǎng)絡(luò)謠言、偽科學(xué)標(biāo)題黨、惡意營銷、低俗媚俗、傳播不良生活方式和不良流行文化以及違規(guī)廣告等內(nèi)容和賬號進行全面治理。

為此，小紅書專項治理團隊針對不良社會價值導(dǎo)向的內(nèi)容進行嚴格治理，處理了涉黃等色情低俗內(nèi)容的違規(guī)筆記超過1800篇，侵權(quán)假冒類內(nèi)容近300篇，并對涉及上述內(nèi)容的惡劣賬號進行封號清理。

“這類內(nèi)容不僅讓用戶產(chǎn)生反感，也容易讓外界對小紅書用戶產(chǎn)生負面誤解，平臺必須對這些內(nèi)容堅決地說‘不’，才能引導(dǎo)用戶發(fā)布更向上的內(nèi)容，維護社區(qū)生態(tài)。”小紅書生態(tài)治理專項組負責(zé)人表示，比如‘康笑天’、‘胖妃娘娘’等賬號在全網(wǎng)都以同樣的“標(biāo)題黨”方式博眼球，標(biāo)題存在嚴重誤導(dǎo)性，平臺不僅封禁了此類賬號，并且規(guī)定終身禁入。

“一些惡意營銷號或標(biāo)題黨筆記和賬號背后都有逐利的目的，這類賬號更會利用灰黑產(chǎn)技術(shù)刷量，占用公域資源，通過一個階段的專項治理，我們看到“節(jié)省”等真實分享的內(nèi)容獲得了更多的呈現(xiàn)空間。”上述負責(zé)人解釋說，在平臺治理已經(jīng)見到成效的情況下，未來還將繼續(xù)加大治理力度，持續(xù)打擊。

近年來，在互聯(lián)網(wǎng)社交平臺、UGC內(nèi)容平臺，時有“抑郁”、“自殺”等傾向內(nèi)容出現(xiàn)，小紅書為此成立了“挽救生命小分隊”，針對社區(qū)中發(fā)現(xiàn)的疑似“自殺”類的筆記，通過快速反饋機制，提供線索給各地警方進行核實及緊急干預(yù)。

三季度將著力提升直播內(nèi)容

隨著直播業(yè)務(wù)發(fā)展，低質(zhì)內(nèi)容和刷量灰黑產(chǎn)也盯上了直播間的利益空間。為響應(yīng)國家網(wǎng)信辦及相關(guān)部門對直播內(nèi)容生態(tài)的監(jiān)管要求，抖音、快手、小紅書等平臺先后展開直播間專項治理。

小紅書方面透露，平臺已經(jīng)同步展開直播間治理，包括嚴厲的反作弊打擊灰黑產(chǎn)機制，平臺已在第二季度公布了《小紅書直播規(guī)范》，第三季度，平臺不僅會繼續(xù)打擊灰黑產(chǎn)，還會把重點放在直播間的低質(zhì)量、存在不良社會價值導(dǎo)向內(nèi)容的治理上。

小紅書方面表示，平臺反作弊機制已經(jīng)覆蓋直播間，實時攔截刷量行為，并在直播間數(shù)據(jù)中實時進行扣除。平臺還積極配合公安機關(guān)打擊黑產(chǎn)作弊鏈條和詐騙團伙。

據(jù)介紹，小紅書已經(jīng)制定了全面嚴格的直播內(nèi)容審核機制，并在二季度發(fā)布了《小紅書直播行為》規(guī)范明確社區(qū)規(guī)則，對用戶直播內(nèi)容進行實時安全把控，并定期對用戶進行直播規(guī)范普及。平臺還將采取直播間巡視，重點內(nèi)容監(jiān)控等方式，對低質(zhì)量低營養(yǎng)，存在不良社會價值導(dǎo)向的內(nèi)容進行干預(yù)和治理。

中國社會科學(xué)院法學(xué)研究所研究員、《環(huán)球法律評論》雜志副主編支振鋒此前曾表示，數(shù)字經(jīng)濟大幅度拓展生產(chǎn)生活。以大數(shù)據(jù)、物聯(lián)網(wǎng)、云計算、人工智能為代表的信息技術(shù)，正在以前所未有的力度為人類賦能，但也給社會治理帶來了極其巨大的挑戰(zhàn)。

“近年來，以小紅書、騰訊、阿里巴巴、百度等為代表的頭部互聯(lián)網(wǎng)企業(yè)，積極進行技術(shù)迭代，努力健全防控機制，大力開展專項行動，在打擊網(wǎng)絡(luò)灰黑產(chǎn)上起到了重要作用。”支振鋒說。

目前，除了持續(xù)的迭代策略對抗、加強內(nèi)容模型識別外，小紅書自主開發(fā)、升級清理不良內(nèi)容、打擊虛假數(shù)據(jù)策略模型和治理策略，對有效提升基于行為特征、內(nèi)容特征等方面的算法模型和策略識別能力在治理中也起到了關(guān)鍵作用。“平臺生態(tài)治理是一場‘持久戰(zhàn)’。”前述負責(zé)人表示，在打擊黑灰產(chǎn)方面，小紅書會堅持到底，絕不放松。