具有讽刺意味的是，Meta 试图通过一种被称为“ Shepherd ”的新流程，利用人工智能本身来解决生成式人工智能工具产生不准确或误导性响应的问题。
正如您在此示例中所看到的，Meta 的新Shepherd LLM旨在批评模型响应并提出改进建议，以便提供更准确的生成式 AI 输出。
Meta所解释的：
“我们方法的核心是高质量的反馈数据集，我们根据社区反馈和人工注释来整理该数据集。尽管 Shepherd 很小（7B 参数），但它的批评与包括 ChatGPT 在内的已建立模型的批评相同或更受欢迎。使用 GPT-4 进行评估，与竞争对手相比，Shepherd 的平均胜率达到 53-87%。在人类评估中，Shepherd 严格优于其他模型，并且平均与 ChatGPT 密切相关。”
因此，它越来越擅长提供有关生成式人工智能输出为何错误的自动反馈，帮助引导用户探索更多信息或澄清细节。
这就引出了一个问题：“为什么不直接将其构建到主要的人工智能模型中，并在没有中间步骤的情况下产生更好的结果呢？” 但我不是编码天才，我不会假装了解现阶段这是否可能。
当然，这将是最终目标，通过迫使生成人工智能系统重新评估其不正确或不完整的答案来促进更好的响应，以便对您的查询提供更好的答复。
事实上，OpenAI 表示，其 GPT-4 模型已经比当前商用的 GPT 系统（例如当前版本的 ChatGPT 中使用的系统）产生了更好的结果，而一些平台也看到使用 GPT-4 作为代码的良好结果审核任务的基础，通常在性能上与人类审核者相媲美。
这可能会导致社交媒体平台在人工智能使用方面取得一些重大进展。虽然此类系统在检测细微差别和含义方面可能永远不会像人类那么好，但我们的帖子可能很快就会受到更多的自动化审核。
对于一般查询，也许像 Shepherd 这样的额外检查和平衡也将有助于完善所提供的结果，或者它将帮助开发人员构建更好的模型来满足需求。
最终，推动这些工具将变得更加智能，并且能够更好地理解我们的每个查询。因此，虽然生成式人工智能现在所能提供的功能令人印象深刻，但它作为辅助工具越来越可靠，并且可能在您的工作流程中占据更重要的部分。
文章翻译自：socialmediatoday；原文链接：https://www.socialmediatoday.com/news/meta-launches-new-generative-ai-tool-help-improve-accuracy-ai-responses/690981/