OpenAI 昨日发布 GPT-4，这款备受期待的文本生成 AI 模型在关键方面较前身 GPT-3 有显著改进，如提供更符合事实的陈述、允许开发人员更灵活地规定风格与行为。同时，GPT-4 具备多模态能力，可理解图像并描述或解释照片内容。
然而，GPT-4 仍存在严重缺陷。与 GPT-3 类似，该模型会“幻觉”事实并犯基本推理错误。例如，OpenAI 官方博客曾展示 GPT-4 将猫王埃尔维斯·普雷斯利误描述为“演员的儿子”，而其父母均非演员。
为深入了解 GPT-4 的开发周期及能力局限，TechCrunch 周二视频采访了 OpenAI 联合创始人兼总裁 Greg Brockman。
GPT-4 vs GPT-3：技能飞跃但仍存瑕疵
当被要求比较两者时，Brockman 仅用一词概括：“不同”。他指出，尽管模型仍有诸多问题和错误，但在微积分或法律等领域可见明显技能飞跃，“从非常糟糕变得相对人类来说相当不错”。
测试结果佐证了这一观点。在 AP 微积分 BC 考试中，GPT-4 获 5 分中的 4 分（GPT-3 仅得 1 分）；模拟律师资格考试中，GPT-4 成绩位列前 10%，而 GPT-3.5 徘徊在下 10%。
多模态能力与安全审慎推广
GPT-4 另一亮点是多模态性。不同于仅接受文本提示的前代模型，GPT-4 可同时处理图像和文本输入。这得益于其在图像和文本数据上的联合训练。
OpenAI 表示训练数据来自各类授权及公开源，可能包含个人信息，但 Brockman 回避了具体细节。此前，训练数据问题曾引发法律纠纷。
GPT-4 的图像理解能力令人印象深刻。例如，面对一张假 VGA 电缆插入 iPhone 的三格漫画，它能准确分解面板并解释笑点在于“将过时的大型连接器插入现代智能手机端口的荒谬行为”。
目前，仅辅助视障人士应用 Be My Eyes 作为启动合作伙伴可使用该功能。Brockman 强调，广泛推广将是“缓慢且审慎的”，需先解决面部识别等政策红线问题。
安全挑战与缓解措施
OpenAI 在处理 DALL-E 2 伦理困境时已积累经验，通过升级安全系统减少深度伪造及有害内容风险。但对于防止 GPT-4 被恶意使用仍是长期挑战。发布数小时后，Adversa AI 便展示了绕过过滤器生成钓鱼邮件及冒犯性内容的方法。
Brockman 透露，GPT-4 经过六个月安全训练，内部测试显示其回应违规请求的可能性比 GPT-3.5 低 82%，生成事实性回答的概率高出 40%。但他也承认早期实测并不乐观，如 Bing Chat 仍易被越狱诱导输出有害内容。
为此，GPT-4 新增了 API 级“system”消息功能作为护栏，帮助设定交互边界和基调。Brockman 表示，团队正致力于建立可重复的工程化流程，以获取对人们真正有用的可预测结果。
Evals 框架与上下文窗口扩展
Brockman 提及新开源的 Evals 软件框架，旨在通过众包模式评估模型性能。“你不衡量就无法改进”，Evals 支持用户开发基准测试，推动模型持续迭代而非仅靠季度更新。
此外，OpenAI 正在测试拥有更大上下文窗口的 GPT-4 版本，能“记住”约 50 页内容，是基础版的五倍、GPT-3 的八倍。Brockman 认为这将极大拓展企业应用场景，如构建基于跨部门知识的对话式 AI 助手，显著提升工作效率。