每經(jīng)編輯 杜宇
當(dāng)?shù)貢r(shí)間周二（8月15日），人工智能研究公司OpenAI在官網(wǎng)稱，其開(kāi)發(fā)了一種使用GPT-4進(jìn)行內(nèi)容審核的解決方案，有望減輕人工審核員的負(fù)擔(dān)。
圖片來(lái)源：OpenAI官網(wǎng)
OpenAI表示，將GPT-4用于內(nèi)容策略開(kāi)發(fā)和內(nèi)容審核決策，從而實(shí)現(xiàn)更一致的標(biāo)記、更快的策略優(yōu)化反饋循環(huán)，以及減少人工審核人員的參與。
OpenAI稱，內(nèi)容審核在維持?jǐn)?shù)字平臺(tái)的健康方面發(fā)揮著至關(guān)重要的作用。使用GPT-4的內(nèi)容審核系統(tǒng)可以更快地迭代策略更改，將周期從幾個(gè)月縮短到幾個(gè)小時(shí)。GPT-4還能夠解釋長(zhǎng)內(nèi)容策略文檔中的規(guī)則和細(xì)微差別，并立即適應(yīng)策略更新，從而實(shí)現(xiàn)更一致的標(biāo)記。
OpenAI相信，這為數(shù)字平臺(tái)的未來(lái)提供了一個(gè)更積極的愿景，在數(shù)字平臺(tái)上，人工智能可以根據(jù)特定平臺(tái)的政策幫助調(diào)節(jié)在線流量，并減輕大量人類版主的心理負(fù)擔(dān)。任何擁有OpenAI API訪問(wèn)權(quán)限的人都可以實(shí)現(xiàn)這種方法來(lái)創(chuàng)建自己的人工智能輔助審核系統(tǒng)。
OpenAI一直在測(cè)試該技術(shù)，并邀請(qǐng)客戶也進(jìn)行試驗(yàn)。OpenAI表示，其工具有望幫助企業(yè)在一天左右的時(shí)間內(nèi)，就完成原本需要六個(gè)月才能做完的工作。
內(nèi)容審核需要細(xì)致的努力、敏感度、對(duì)上下文的深刻理解，以及對(duì)新用例的快速適應(yīng)，這使得它既耗時(shí)又具有挑戰(zhàn)性。傳統(tǒng)上，這項(xiàng)任務(wù)的負(fù)擔(dān)落在了人類主持人身上，他們?cè)谳^小的垂直特定機(jī)器學(xué)習(xí)模型的支持下，篩選大量?jī)?nèi)容，過(guò)濾出有毒有害的材料。這個(gè)過(guò)程本身就很慢，可能會(huì)給人類調(diào)節(jié)者帶來(lái)心理壓力。
OpenAI表示，我們正在探索使用LLM來(lái)應(yīng)對(duì)這些挑戰(zhàn)。我們的大型語(yǔ)言模型，如GPT-4，可以理解并生成自然語(yǔ)言，使其適用于內(nèi)容審核。模型可以根據(jù)提供給它們的政策指導(dǎo)方針做出適度的判斷。
有了這個(gè)系統(tǒng)，開(kāi)發(fā)和定制內(nèi)容策略的過(guò)程從幾個(gè)月縮短至幾個(gè)小時(shí)。一旦制定了政策指南，政策專家就可以通過(guò)識(shí)別少量示例并根據(jù)政策為其分配標(biāo)簽來(lái)創(chuàng)建一組黃金數(shù)據(jù)。然后，GPT-4讀取策略并為同一數(shù)據(jù)集分配標(biāo)簽，但看不到答案。
通過(guò)檢查GPT-4的判斷與人類判斷之間的差異，政策專家可以要求GPT-4提出標(biāo)簽背后的推理，分析政策定義中的歧義，解決困惑，并相應(yīng)地在政策中提供進(jìn)一步的澄清。我們可以重復(fù)步驟操作，直到我們對(duì)政策質(zhì)量感到滿意為止。
這個(gè)迭代過(guò)程產(chǎn)生了精細(xì)的內(nèi)容策略，這些策略被轉(zhuǎn)換為分類器，從而能夠大規(guī)模部署策略和內(nèi)容審核。
在審核能力上，OpenAI承認(rèn)GPT-4的標(biāo)記質(zhì)量與經(jīng)過(guò)輕度訓(xùn)練的人類審核員相似，但與經(jīng)驗(yàn)豐富、訓(xùn)練有素的人類審核員相比仍有差距。對(duì)此，OpenAI強(qiáng)調(diào)，審核的過(guò)程不應(yīng)該完全自動(dòng)化。
值得注意的是，OpenAI的工具并不是該領(lǐng)域第一個(gè)引入人工智能的先行者。早于2017年，谷歌的技術(shù)團(tuán)隊(duì)就開(kāi)發(fā)了一個(gè)基于AI的內(nèi)容審核API，名為“Perspective”，已經(jīng)被多家媒體組織所使用。
但即使如此，一些企業(yè)仍選擇將審核工作外包給其他人力公司來(lái)節(jié)省成本。
OpenAI稱，其最新的內(nèi)容審核系統(tǒng)為數(shù)字平臺(tái)的未來(lái)提供了一個(gè)更積極的愿景，即AI可以根據(jù)平臺(tái)特定的政策減輕大量人工審核人員的精神負(fù)擔(dān)。公司還透露，已經(jīng)有一些客戶在使用這一流程。
每日經(jīng)濟(jì)新聞綜合OpenAI官網(wǎng)、第一財(cái)經(jīng)、財(cái)聯(lián)社
封面圖片來(lái)源：視覺(jué)中國(guó)(16.940, -0.33, -1.91%)-VCG111419382557
