OpenAI 是人工智能領域的先驅組織，目前正在研究大型語言模型的作用(LLM)，例如GPT-4，可能會在內容審核過程中播放。主要目標是通過使用這些模型的技能來理解自然語言並生成該語言來優化和改進內容審核過程，這將加快該過程。
根據OpenAI官方博客最近的一篇文章，GPT-4在內容審核中的應用可以顯著減少開發和定制內容策略所需的時間。傳統上，這個過程可能需要幾個月的時間，但使用 GPT-4，它可以壓縮到僅僅幾個小時。以下是該過程的簡要概述：
政策指南創建：首先制定政策指南。隨後，政策專家會整理出一組“黃金數據”，標記具體示例並根據政策進行標記。
GPT-4的作用：此後，GPT-4對政策進行獨立評估並分配標籤無需事先了解專家提供的響應即可訪問數據集。
迭代細化：仔細檢查GPT-4 提供的評估與人類專家提供的評估之間的任何不一致之處。這需要 GPT-4 詳細闡述某些標籤的基本原理，從而使專家能夠識別政策定義中模糊的領域。之後，可以定義並改進該策略。該循環由第 2 階段和第 3 階段組成，一直持續到政策質量被認為足夠為止。
更細緻的內容限制的製定代表了這一迭代過程的成功完成。之後，這些規則可能會轉換為分類器，這將使政策付諸實施變得更加容易，並且可以在更大範圍內調節材料。此外，GPT-4的預測可用於微調較小的模型，從而保證即使在處理大量數據時也能保持效率。
綜上所述，OpenAI 一直在進行的以內容審核為目的的GPT-4 研究提供了提高內容審核程序的效率和準確性的潛在途徑。