ChatGPT在取得重大成功的OpenAI，正继续推进其人工智能技术在不同领域的应用研究。OpenAI旨在将去年三月推出的GPT-4用于内容管理与审核。
内容审核对于社交媒体平台而言尤为重要。由于每天在社交媒体平台上分享的内容数以百万计，对这些内容进行审核十分困难。为此，希望使用GPT-4的OpenAI认为，凭借人工智能技术，内容审核流程将会缩短。
值得一提的是，许多社交媒体平台都雇佣了数千名内容审核员来识别不符合内容政策的内容。借助OpenAI和GPT-4，识别违规内容的过程可能会变得更加快速且轻松。据OpenAI称，GPT-4能够以更一致的方式对内容进行标记。
我们还需提醒的是，内容审核是一项压力巨大且耗时的过程。内容审核员经常需要面对大量不良内容和图像。Meta曾在2020年同意向超过11,000名内容审核员支付每人1,000美元的赔偿金，以补偿他们因审查平台上可能引发的心理健康问题而遭受的伤害。
根据平台的内容政策对GPT-4进行指令训练，可以使人工智能管理这一压力重重的过程。在利用GPT-4进行内容审核的场景中，内容政策的变更可以快速实施。用户只需将针对GPT-4的变更相关指令传达给它即可。
我们还应注意到，人工智能技术目前尚未完全无懈可击。因此，OpenAI也指出，在内容审核过程中仍然需要 人类 的存在。未来，GPT-4及其他人工智能驱动的解决方案被广泛用于内容审核并非不可预见。