OpenAI正在测试内容审核功能：制定内容策略缩短到几小时，减轻审核员精神负担

(资料图)

日前，人工智能初创公司 OpenAI 表示，GPT-4 正在测试内容审核功能，任何拥有 OpenAI API 访问权限的人都可以使用这种方法来创建自己的人工智能辅助审核系统。

从 OpenAI 官网了解到，GPT-4 可用于制定适当的内容政策，并可以更快地为帖子添加标签或作出评判。该公司一直在测试该技术，并邀请客户也进行试验。借助该系统，开发和制定内容策略的过程从几个月缩短到几个小时。

OpenAI 称，该功能为数字平台的未来提供了更积极的愿景，人工智能可以根据平台特定的政策帮助调节在线流量，并减轻大量人类审核员的精神负担。

▲ AI 审核（LLM）与初级审核员（pool B）效率相当

与传统审核相比，OpenAI 审核具有以下优点：

标签更加一致。内容政策不断发展并且通常非常详细。人们可能会对政策有不同的解释，或者一些版主可能需要更长的时间来消化新的政策变化，从而导致标签不一致。相比之下，法学硕士对措辞的细微差异很敏感，可以立即适应政策更新，为用户提供一致的内容体验。

更快地反馈循环。政策更新的周期 —— 制定新政策、贴标签和收集人类反馈 —— 往往是一个漫长而漫长的过程。GPT-4 可以将这一过程缩短至几个小时，从而能够更快地响应新的危害。

减轻精神负担。持续接触有害或令人反感的内容可能会导致审核人员情绪疲惫和心理压力。自动化此类工作有利于相关人员的福祉。

关键词：