近日，網(wǎng)信部門(mén)依法查處一批低俗炒作娛樂(lè)明星信息賬號(hào)，督促網(wǎng)站平臺(tái)依法依約關(guān)閉和長(zhǎng)期禁言處置“超能攝影陽(yáng)陽(yáng)”“攝影劉大錘”“老板王大發(fā)”“娛樂(lè)冇飯”“追星少女卓小宴”“貼小君”“娛三少”等一批低俗炒作緋聞丑聞八卦的違法違規(guī)賬號(hào)。

網(wǎng)信部門(mén)表示，下一步將繼續(xù)壓實(shí)網(wǎng)站平臺(tái)主體責(zé)任，督促嚴(yán)格落實(shí)《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《關(guān)于進(jìn)一步加強(qiáng)娛樂(lè)明星網(wǎng)上信息規(guī)范相關(guān)工作的通知》等要求，聚焦泛娛樂(lè)化傾向和低俗炒作現(xiàn)象，堅(jiān)決整治流量至上和“飯圈”亂象，加大網(wǎng)絡(luò)執(zhí)法力度，努力營(yíng)造積極向上的網(wǎng)絡(luò)環(huán)境。本文試探究網(wǎng)絡(luò)亂象產(chǎn)生的根源，并提出治理此類問(wèn)題的路徑。

低俗炒作現(xiàn)象屢禁不止的根源

近年來(lái)，網(wǎng)絡(luò)空間泛娛樂(lè)化傾向反復(fù)出現(xiàn)，低俗炒作現(xiàn)象屢禁不止，從明星隱私的惡意曝光到“飯圈”粉絲“開(kāi)盲盒”，從虛假八卦的肆意傳播到暗語(yǔ)隱喻的擦邊操作，這些亂象不僅污染網(wǎng)絡(luò)生態(tài)，更對(duì)網(wǎng)絡(luò)用戶，尤其是青少年價(jià)值觀塑造構(gòu)成不良影響。為此，國(guó)家網(wǎng)信部門(mén)近日依法查處了一批低俗炒作緋聞丑聞八卦的違法違規(guī)賬號(hào)，督促網(wǎng)站平臺(tái)依法依約對(duì)這些賬號(hào)采取關(guān)閉或長(zhǎng)期禁言處置。

這不是我國(guó)網(wǎng)信部門(mén)第一次查處低俗炒作的違法違規(guī)賬號(hào)。事實(shí)上，我國(guó)早已出臺(tái)了一系列文件來(lái)治理網(wǎng)絡(luò)中的低俗炒作現(xiàn)象。例如，2019年我國(guó)出臺(tái)的《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》就要求加強(qiáng)網(wǎng)絡(luò)生態(tài)治理、培育積極健康向上向善的網(wǎng)絡(luò)文化、維護(hù)廣大網(wǎng)民切身利益。該規(guī)定對(duì)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者、網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺(tái)、網(wǎng)絡(luò)信息內(nèi)容服務(wù)使用者及網(wǎng)絡(luò)行業(yè)組織等主體提出了一系列要求。隨后的《關(guān)于進(jìn)一步加強(qiáng)娛樂(lè)明星網(wǎng)上信息規(guī)范相關(guān)工作的通知》《關(guān)于進(jìn)一步加強(qiáng)“飯圈”亂象治理的通知》等都對(duì)低俗炒作等違法違規(guī)現(xiàn)象作出了針對(duì)性規(guī)定。這進(jìn)一步健全了我國(guó)網(wǎng)絡(luò)綜合治理體系。

但不可否認(rèn)的是，營(yíng)造清朗的網(wǎng)絡(luò)空間是一項(xiàng)長(zhǎng)期工作。網(wǎng)絡(luò)空間中低俗炒作現(xiàn)象屢禁不止，究其根源，在于流量經(jīng)濟(jì)的逐利邏輯與平臺(tái)主體責(zé)任落實(shí)缺位。一方面，流量經(jīng)濟(jì)的利益驅(qū)動(dòng)使得部分賬號(hào)運(yùn)營(yíng)者鋌而走險(xiǎn)。在“眼球經(jīng)濟(jì)”中，點(diǎn)擊量、曝光度直接關(guān)聯(lián)利益變現(xiàn)能力。同時(shí)，娛樂(lè)明星催生的“粉絲經(jīng)濟(jì)”關(guān)聯(lián)的產(chǎn)業(yè)市場(chǎng)規(guī)模較大。鑒于“粉絲經(jīng)濟(jì)”的巨大規(guī)模和網(wǎng)絡(luò)經(jīng)濟(jì)流量至上的特點(diǎn)，使得一些賬號(hào)為博取關(guān)注不惜通過(guò)偷拍、捏造、標(biāo)題黨等手段制造噱頭。即便對(duì)相關(guān)違法違規(guī)賬號(hào)進(jìn)行查處，此類賬號(hào)仍會(huì)“野火燒不盡，春風(fēng)吹又生”。另一方面，網(wǎng)絡(luò)平臺(tái)作為網(wǎng)絡(luò)內(nèi)容傳播的核心載體，在追逐商業(yè)利益與履行主體責(zé)任間容易出現(xiàn)失衡。流量經(jīng)濟(jì)不僅適用于網(wǎng)絡(luò)賬號(hào)運(yùn)營(yíng)者，網(wǎng)絡(luò)平臺(tái)也同樣受制于該法則。網(wǎng)絡(luò)平臺(tái)為提升用戶關(guān)注度、維持用戶活躍度等考慮，往往選擇對(duì)違法違規(guī)賬號(hào)和內(nèi)容采取“睜一只眼閉一只眼”的“寬容”態(tài)度，甚至通過(guò)主動(dòng)創(chuàng)設(shè)話題、算法推送技術(shù)等刻意放大爭(zhēng)議性主題。這使得有的網(wǎng)絡(luò)平臺(tái)基于自身利益而對(duì)法律法規(guī)所要求的網(wǎng)絡(luò)平臺(tái)義務(wù)和責(zé)任采取“選擇性遵守”，應(yīng)引起重視。

督促網(wǎng)絡(luò)平臺(tái)落實(shí)主體責(zé)任的措施

鑒于低俗炒作現(xiàn)象的特殊性，通過(guò)網(wǎng)絡(luò)平臺(tái)預(yù)防和處置違法違規(guī)亂象尤為必要。這是因?yàn)榫W(wǎng)絡(luò)平臺(tái)在網(wǎng)絡(luò)不良信息傳播中處于聯(lián)結(jié)各方的中心地位，無(wú)論是網(wǎng)絡(luò)內(nèi)容的發(fā)布者（賬號(hào)主體），還是網(wǎng)絡(luò)內(nèi)容的使用者，都有賴于通過(guò)網(wǎng)絡(luò)平臺(tái)獲得相關(guān)服務(wù)。政府監(jiān)管部門(mén)雖然有權(quán)對(duì)違法違規(guī)行為采取相應(yīng)措施，但因龐大的賬號(hào)數(shù)量和監(jiān)測(cè)技術(shù)欠缺等原因，客觀上難以對(duì)違法違規(guī)賬戶實(shí)施全面、及時(shí)的管理。因此，監(jiān)管部門(mén)可以通過(guò)督促網(wǎng)絡(luò)平臺(tái)對(duì)平臺(tái)上的賬號(hào)和內(nèi)容實(shí)施管理，進(jìn)而實(shí)現(xiàn)凈化網(wǎng)絡(luò)空間的目標(biāo)。

目前，我國(guó)法律法規(guī)已經(jīng)對(duì)網(wǎng)絡(luò)平臺(tái)履行主體責(zé)任提出了一系列要求。例如，網(wǎng)絡(luò)平臺(tái)應(yīng)當(dāng)建立網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理機(jī)制，包括建立健全算法推薦的人工干預(yù)和用戶自主選擇制度、廣告管理制度、平臺(tái)公約和用戶協(xié)議制度、舉報(bào)制度、年度報(bào)告制度等。此外，網(wǎng)絡(luò)平臺(tái)還要履行信息安全管理義務(wù)，包括不得傳播違法信息，應(yīng)當(dāng)防范和抵制傳播不良信息，鼓勵(lì)在重點(diǎn)環(huán)節(jié)傳播正能量信息，不得在重點(diǎn)環(huán)節(jié)呈現(xiàn)不良信息等。除了既有的規(guī)定外，為了督促網(wǎng)絡(luò)平臺(tái)落實(shí)主體責(zé)任，還可從以下幾個(gè)方面強(qiáng)化對(duì)網(wǎng)絡(luò)平臺(tái)主體責(zé)任的要求。

第一，強(qiáng)化技術(shù)防控，構(gòu)建智能監(jiān)測(cè)屏障。過(guò)去，由于網(wǎng)絡(luò)內(nèi)容海量的特點(diǎn)，網(wǎng)絡(luò)平臺(tái)對(duì)平臺(tái)內(nèi)的內(nèi)容原則上不負(fù)有全面審查義務(wù)。但隨著人工智能、內(nèi)容識(shí)別等技術(shù)的不斷發(fā)展，對(duì)網(wǎng)絡(luò)內(nèi)容的事前審查與實(shí)時(shí)監(jiān)測(cè)逐漸在技術(shù)層面得到一定程度的實(shí)現(xiàn)。尤其是面對(duì)低俗內(nèi)容的隱蔽化趨勢(shì)（例如暗語(yǔ)、諧音、圖像隱喻等），更需要借助相應(yīng)內(nèi)容識(shí)別技術(shù)加以判斷。例如，可以通過(guò)自然語(yǔ)言處理與計(jì)算機(jī)視覺(jué)技術(shù)的聯(lián)動(dòng)實(shí)時(shí)解析文本、圖片、視頻中的敏感信息。此外，還可要求網(wǎng)絡(luò)平臺(tái)建立和完善流量異常預(yù)警機(jī)制，對(duì)短時(shí)間內(nèi)流量激增的內(nèi)容，應(yīng)自動(dòng)觸發(fā)人工復(fù)核程序。若人工復(fù)核的結(jié)果是低俗炒作等違法違規(guī)內(nèi)容，應(yīng)立即限制推送，對(duì)真?zhèn)坞y辨的內(nèi)容，可進(jìn)行降權(quán)處理。當(dāng)然，為了避免網(wǎng)絡(luò)平臺(tái)承擔(dān)過(guò)重的責(zé)任，平臺(tái)采取的監(jiān)測(cè)技術(shù)應(yīng)以行業(yè)通常的技術(shù)水平為限。

第二，建立和完善風(fēng)險(xiǎn)評(píng)估、認(rèn)證與安全審計(jì)制度。風(fēng)險(xiǎn)評(píng)估、認(rèn)證與安全審計(jì)是我國(guó)網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法和個(gè)人信息保護(hù)法等法律為應(yīng)對(duì)網(wǎng)絡(luò)安全、數(shù)據(jù)安全和個(gè)人信息保護(hù)等問(wèn)題而創(chuàng)設(shè)的風(fēng)險(xiǎn)預(yù)防制度。這些制度的核心在于通過(guò)引入第三方機(jī)構(gòu)對(duì)相關(guān)網(wǎng)絡(luò)主體進(jìn)行評(píng)估、認(rèn)證和審計(jì)，并將相關(guān)結(jié)果提交監(jiān)管部門(mén)，從而督促相關(guān)網(wǎng)絡(luò)主體落實(shí)法律義務(wù)。該制度有助于實(shí)現(xiàn)法律監(jiān)督從事后追責(zé)轉(zhuǎn)變?yōu)槭虑邦A(yù)防，從而最大限度降低不良后果的發(fā)生。網(wǎng)絡(luò)平臺(tái)在履行對(duì)違法違規(guī)賬戶的處置和不良內(nèi)容的管理活動(dòng)中，可借鑒我國(guó)在網(wǎng)絡(luò)安全、數(shù)據(jù)安全和個(gè)人信息保護(hù)領(lǐng)域的有益經(jīng)驗(yàn)，通過(guò)建立評(píng)估、認(rèn)證與審計(jì)制度督促網(wǎng)絡(luò)平臺(tái)落實(shí)相關(guān)主體責(zé)任。對(duì)于未完成或未通過(guò)相關(guān)評(píng)估、認(rèn)證或?qū)徲?jì)的平臺(tái)，可采取限制新用戶注冊(cè)、暫停廣告投放等懲戒措施。當(dāng)然，鑒于評(píng)估認(rèn)證等義務(wù)的履行會(huì)增加平臺(tái)經(jīng)營(yíng)成本，也可對(duì)平臺(tái)進(jìn)行分類分級(jí)管理。對(duì)于用戶規(guī)模大、影響力大的頭部平臺(tái)，可采取更嚴(yán)格的評(píng)估認(rèn)證等；對(duì)于初創(chuàng)企業(yè)則采取相對(duì)寬松，甚至豁免其相關(guān)要求。

第三，強(qiáng)化部門(mén)之間的信息共享與協(xié)同治理。目前，我國(guó)對(duì)網(wǎng)絡(luò)亂象的治理主要由網(wǎng)信、公安、市場(chǎng)監(jiān)管等部門(mén)分別完成。由于部門(mén)之間信息溝通不暢、執(zhí)法標(biāo)準(zhǔn)不統(tǒng)一等問(wèn)題，治理效率和效果難免會(huì)受到一定影響。為此，有必要打通部門(mén)間的信息壁壘，實(shí)現(xiàn)部門(mén)間的協(xié)同。例如，可以搭建全國(guó)性網(wǎng)絡(luò)治理信息共享平臺(tái)，整合網(wǎng)信、公安、市場(chǎng)監(jiān)管部門(mén)的數(shù)據(jù)資源，建立低俗內(nèi)容特征庫(kù)、違規(guī)主體黑名單庫(kù)和典型案例庫(kù)等。通過(guò)API接口向相關(guān)主體開(kāi)放查詢等權(quán)限，實(shí)現(xiàn)“一處違規(guī)、處處受限”的協(xié)同治理。同時(shí)，部門(mén)間也應(yīng)形成統(tǒng)一的執(zhí)法標(biāo)準(zhǔn)和操作規(guī)范，避免不同部門(mén)對(duì)同一行為性質(zhì)認(rèn)定不一致或不必要的重復(fù)處罰，以提高執(zhí)法的公信力。

治理低俗炒作需要技術(shù)、制度與執(zhí)行等各方面的協(xié)同。唯有讓網(wǎng)絡(luò)平臺(tái)從“流量販子”轉(zhuǎn)變?yōu)椤柏?zé)任管家”，讓算法從“媚俗推手”進(jìn)化為“價(jià)值向?qū)А保拍苷嬲隣I(yíng)造清朗的網(wǎng)絡(luò)空間。（文 | 上海政法學(xué)院佘山學(xué)者特聘崗教授 徐偉）【本文為2024年度上海市“曙光計(jì)劃”項(xiàng)目“人工智能侵權(quán)責(zé)任立法論”（項(xiàng)目編號(hào)：24SG56）階段性研究成果。】

來(lái)源：中國(guó)信息安全

初審：佟焱

復(fù)審：張洋

終審：郭日新