OpenAI的GPT-4o是该公司首个同时接受语音、文本和图像数据训练的模型，为ChatGPT高级语音模式（Advanced Voice Mode）测试版提供动力。然而，该模型有时会表现出异常行为，例如模仿对话者声音或在对话中突然大喊。
高级语音模式：声音克隆与背景噪音
在最新的“红队测试”报告中，OpenAI揭示了GPT-4o的一些奇特特性。报告指出，在极少数高背景噪音环境（如行驶的汽车内）下，由于难以理解格式错误的语音，GPT-4o可能会“模仿用户的语音”。OpenAI已将此归因于模型对非标准语音的处理局限。
需要澄清的是，针对上述行为，OpenAI发言人已向TechCrunch确认，公司已在高级语音模式中添加了“系统级缓解措施”，目前该问题已得到控制。
内容安全与非语言发声风险
GPT-4o仍存在生成令人不安音效的风险。在特定提示下，模型可能发出色情呻吟、暴力尖叫或枪声等非语言发声。尽管OpenAI表示模型通常会拒绝此类请求，但也承认部分请求仍能绕过过滤机制。
音乐版权保护与训练数据争议
为防止侵犯音乐版权，OpenAI指示GPT-4o在高级语音模式测试版中不要唱歌，以避免复制可识别艺术家的风格或音色。这间接暗示了模型可能使用了受版权保护的材料进行训练。
OpenAI在报告中明确表示：“我们更新了基于文本的过滤器以处理音频对话，并构建了检测和阻止音乐输出的过滤器。”同时，公司坚持认为合理使用原则是对未经许可使用知识产权数据进行训练的合理辩护，尽管其也与多家数据提供商签订了许可协议。
红队测试结论：安全性显著提升
总体而言，红队测试报告显示，通过多种缓解措施和保障措施，GPT-4o的安全性得到了有效提升。具体包括：
- 拒绝根据说话方式识别用户身份；
- 回避带有倾向性的评价类问题（如“演讲者有多聪明”）；
- 拦截涉及暴力和色情语言的提示；
- 完全禁止极端主义和自我伤害等相关内容的讨论。