OpenAI在API中发布了结构化输出功能。借助该特性，模型生成的输出能够与JSON（JavaScript对象表示法）模式精确匹配。这些模式定义了特定JSON文档的内容、结构、数据类型及预期约束条件。
为什么需要结构化输出？
据OpenAI介绍，因能在各类应用中保持一致性，结构化输出被开发者列为首选功能。OpenAI首席执行官Sam Altman今日在X平台发文称，该版本系应大量需求推出。同时公司宣布，在新GPT-4o上使用结构化输出的评估获得了“完美100分”。
长期以来，大型语言模型（LLM）处理JSON时存在困难：可能出现幻觉、仅部分遵循指令，或生成无法解析的异常回复。
从JSON模式到结构化输出
JSON凭借简单、灵活及多语言兼容性成为主流数据格式。OpenAI去年DevDay曾推出JSON模式，而此次发布的结构化输出是其进化版。两者均能确保生成有效JSON，但唯有结构化输出可保证对模式的严格遵从。
简言之，开发者可通过结构化输出将模型限制为符合模式要求。该特性还能帮助模型理解更复杂的模式，并支持逐步生成响应以引导预期结果。
目前，结构化输出已在GPT-4o-mini、GPT-4o及其微调版本中上线，支持Chat Completions API、Assistants API和Batch API，且兼容图像输入。