12月27日，抖音發(fā)布2024年直播治理報告，全面闡釋抖音直播過去一年的治理理念、技術(shù)及最新成果。
報告稱，抖音在過去一年持續(xù)迭代主播“健康分”，通過加減分定級定檔的長效管理機(jī)制引導(dǎo)主播“向善”，獲得顯著成效。此外，抖音利用AI技術(shù)不斷提升治理速度和精度，有效解決風(fēng)險曝光時長的痛點。升級未成年人保護(hù)機(jī)制，并積極探索“城市+平臺”治理模式，完善綜合治理體系。抖音直播還配合相關(guān)部門打擊黃賭毒詐黑色產(chǎn)業(yè)鏈，搗毀百余個犯罪窩點，從源頭消除違法犯罪分子對直播行業(yè)的污染，全力維護(hù)行業(yè)的健康發(fā)展。
主播管理精細(xì)化運(yùn)營 機(jī)構(gòu)需承擔(dān)管理責(zé)任
2024年1月3日，抖音直播新版“健康分”管理機(jī)制正式生效，該機(jī)制是在針對直播間違規(guī)內(nèi)容做單次處罰的基礎(chǔ)上，平臺根據(jù)主播日常直播增減賬號“健康分”，并依據(jù)分值對賬號分級定檔，對應(yīng)不同的長效管理措施。這也意味著，抖音的主播管理進(jìn)入精細(xì)化運(yùn)營階段。
報告介紹，“健康分”低于70的主播，會被減少推薦、限制單日PK次數(shù)，甚至限制違規(guī)場次收益提現(xiàn)、關(guān)閉禮物收入功能等，0分主播則永久回收直播權(quán)限。主播的長期表現(xiàn)和收益綁定后，大量主播開始主動修正內(nèi)容。至2024年底，共有100萬主播被扣除過健康分，76%的低分主播主動調(diào)整內(nèi)容后不再違規(guī)，直播間違規(guī)率明顯下降。
同時，抖音直播制定了將“主播健康分”與機(jī)構(gòu)進(jìn)行關(guān)聯(lián)的管理規(guī)則，如主播內(nèi)容違規(guī)，機(jī)構(gòu)需要承擔(dān)對應(yīng)的管理責(zé)任，并持續(xù)開展機(jī)構(gòu)安全培訓(xùn)，2024年，機(jī)構(gòu)主播的重復(fù)違規(guī)率下降10%。
引入音頻審核大模型，強(qiáng)化違規(guī)內(nèi)容治理
直播的魅力在于“所見即所得”，這決定了直播治理的關(guān)鍵在于最短時間識別、定位并處置違規(guī)直播，盡可能縮短違規(guī)內(nèi)容曝光時長。
抖音直播在原有的AI應(yīng)用基礎(chǔ)上引入音頻審核大模型，通過大量預(yù)訓(xùn)練，使其逐步掌握直播場景中的常用表達(dá)方式，并具備基本的邏輯推理能力，還能在分析文本內(nèi)容的同時，兼顧環(huán)境音、氛圍音等信號特征，感知音頻包含的情緒，輔助判斷語義。AI 技術(shù)的深度應(yīng)用，將有效改善違規(guī)內(nèi)容曝光時長的核心痛點，未來大量風(fēng)險內(nèi)容的識別、研判將逐漸由人審處置轉(zhuǎn)移為機(jī)器自動識別 + 處置。
2024 年，隨著 AI 大模型在直播審核、處置上的廣泛應(yīng)用，抖音直播著重加強(qiáng)對各類違規(guī)內(nèi)容的治理，開展二十余次專項行動，共無限期回收直播權(quán)限賬號32萬個，清退直播機(jī)構(gòu)526家。
升級重點人群保護(hù)機(jī)制 探索“城市+平臺”聯(lián)動治理模式
同時，抖音也在持續(xù)完善綜合治理體系，結(jié)合城市、人群特點，探索不同的治理模式。2024年，抖音直播升級未成年人保護(hù)機(jī)制，推廣“青少年模式”應(yīng)用。“青少年模式”不提供打賞消費(fèi)服務(wù)，可從源頭阻斷未成年人直播消費(fèi)，平臺也同步加強(qiáng)對未成年人繞過青少年模式消費(fèi)等行為的監(jiān)督。
未經(jīng)監(jiān)護(hù)人允許的未成年人打賞消費(fèi)，一經(jīng)核實，抖音直播將先行全額墊付退賠，平均21小時可完成退款，2024年共幫助9.5萬個未成年人所在家庭快速退款。對于這些退款賬號，平臺將關(guān)閉其充值消費(fèi)功能，預(yù)防再次消費(fèi)。
另一方面，抖音直播在網(wǎng)紅城市爆火的背景下，積極探索“城市+平臺”治理模式。2024年，抖音直播聯(lián)動長沙、沈陽等城市的相關(guān)部門，結(jié)合直播特點針對性建立“快速預(yù)防+高效處置”的聯(lián)動機(jī)制，對反復(fù)違規(guī)的賬號升級處置力度、對涉及線下違規(guī)的行為共同打擊，違規(guī)行為大幅減少，并在多部門協(xié)同下，與直播機(jī)構(gòu)、主播代表等發(fā)起文明直播的行業(yè)倡議。
加強(qiáng)與警方配合，嚴(yán)厲打擊線下違法犯罪行為
平臺在治理中還發(fā)現(xiàn)，大部分嚴(yán)重違規(guī)的直播間，如低俗色情、詐騙導(dǎo)流等，都來自線下違法甚至犯罪行為，僅靠線上治理無法真正解決問題。即便在單個平臺防范住某個黑產(chǎn)團(tuán)伙，他們?nèi)钥梢岳闷渌脚_進(jìn)行違法犯罪行為，嚴(yán)重阻礙行業(yè)健康發(fā)展。
在此背景下，過去一年抖音直播成立專項團(tuán)隊，分級分類摸排違規(guī)線索，深入研判賬號信息特征后上報公安機(jī)關(guān)，并緊密配合相關(guān)部門對黑灰產(chǎn)的查處；上線多個針對性內(nèi)容檢測能力，前置打擊企圖在直播前利用頭像、背景圖、評論等信息進(jìn)行色情引流的賬號；直播中對暴露色情二維碼等內(nèi)容實現(xiàn)快速斷播，色情黑產(chǎn)重復(fù)違規(guī)率減少30%，無限期回收7.4萬個涉色情導(dǎo)流、15萬個涉嫌導(dǎo)流欺詐黑灰產(chǎn)賬號的直播權(quán)限。一年來，抖音直播主動向相關(guān)部門上報黑產(chǎn)線索300余條，配合公安機(jī)關(guān)搗毀犯罪窩點100余個，抓捕犯罪嫌疑人361名。
