大数跨境

GPT-6「看不懂 3D」实锤!250道题只拿0.53分,Claude没及格

GPT-6「看不懂 3D」实锤!250道题只拿0.53分,Claude没及格 新智元
2026-10-30
8
导读:AI会画3D,却未必看得懂3D科学世界。

GPT-6 Astra CAD跑分95.9%?新基准ScienceVision揭示AI科学观察短板

近期,GPT-6 Astra在X平台展示的CAD绘图视频引发热议。视频中,涡轮增压器零件建模精细,支持一键拆解,视觉效果出众。其在BenchCAD测试中取得95.9%的高分,甚至引发关于CAD工程师职业前景的讨论。

然而,专业工程师指出:“画得像”不等于“画得对”。模型虽能复刻视觉界面,但在科学原理、几何结构及部件关系上是否准确,仍存疑。业界亟需一个能检验AI对三维科学对象观察与理解能力的专业基准。

近日,UniPat AI与Elorian AI联合发布了跨学科视觉三维理解与推理基准——ScienceVision。该基准覆盖生物、化学、医学影像、建筑和机械CAD五大领域,旨在评估AI是否具备像科学家一样的观察与推理能力。

测试结果显示,即便是在BenchCAD中表现优异的GPT-6-Astra(搭配Codex),在ScienceVision中也仅获得0.53分(满分1分)。这意味着,在真正的三维科学理解与推理考场上,当前最强模型的及格率刚过一半。

试题详解:模拟专家级三维检视流程

ScienceVision包含250道基于真实三维数据构建的题目,横跨22个子领域。其Demo展示了五个学科的实际检视操作,工具设计高度还原领域专家的工作流:

  • 生物学:隐藏蛋白质整体,仅保留柠檬酸分子及邻近离子,测量其间距离。
  • 化学:框选晶胞,通过对称操作观察其堆叠结构。
  • 医学影像:在CT三个方向切片中定位肾脏病灶边缘。
  • 机械CAD:拆解叉车装配体,统计相同零件数量。
  • 建筑学:沿坡道测量长度与高差,校验坡度合规性。

这些任务看似简单(旋转、点击、测量),实则要求模型具备清晰的观察逻辑与推理能力。ScienceVision博客已公开原始文件与检视工具,用户可亲身体验通过真实三维检视过程评估AI能力的难度。

填补空白:构建统一跨学科3D评测体系

既往的3D理解基准多服务于日常场景或通用机器人任务,缺乏面向科学领域的系统化评测。科学研究天然依赖三维空间的观察与推理:化学家需测量原子几何关系,放射科医生需在切片间追踪结构,建筑师需确认构件连接。

ScienceVision的核心价值在于填补了这一空白。它强调“斯坦门茨画线”式的洞察力——知道在哪里观察比单纯的数据处理更有价值。该基准统一了不同学科的数据格式与交互逻辑,解决了以往评测中标准不一的问题。

严谨构建:66位专家历时近500小时打磨

Science数据集包含250道题,每道题由真实3D源数据、领域问题、作答要求及专家参考答案组成。评分采用确定性规则,杜绝模糊判断,使其具备转化为强化学习环境的潜力。

构建过程极具挑战:

  1. 选题科学性:确保问题依赖三维证据,且答案可复核。
  2. 数据兼容性:处理分子坐标、CT体数据等不同格式,保留关键结构信息。
  3. 专家验证:依靠领域专家建立可信答案。

项目采用“机器出题+专家审核”的人机协作模式。UniPat AI组建了涵盖五个领域的66人专家团队,累计投入482.98小时进行审题、标注、操作记录及多轮返修。每道题均附带逐步保存的关键帧操作记录,将黑箱式的科学观察转化为可回放的过程数据。

评测结果:工具赋能效果有限,医学影像成短板

ScienceVision对比了三种证据获取方式:原始代码分析、交互工具辅助、二维渲染图识别。结果显示:

  • 总分低迷:最高分仅为0.53(GPT-6-Astra + Codex),完全答对率更低。
  • 学科差异:无模型五科全优。GPT-6 Astra在建筑、CAD和化学领先;Claude Fable 5.1在生物领域胜出;Claude Opus 5.5在医学影像表现最佳。
  • 二维识别困难:仅凭六张固定角度渲染图,最佳模型得分仅0.30,GPT-6 Astra降至0.25。
  • 工具利用不足:提供交互工具后,模型性能提升微弱(最高仅涨0.02)。即便在工具模式下,模型仍倾向于读取原始坐标文件而非进行视觉观察。
  • 医学影像异常:模型操作次数是专家的三倍,但得分最低,反映出其在复杂三维医疗数据中的观察推理能力严重不足。

结论表明,当前前沿模型即便拥有充分的数据和工具支持,在面对真实科学任务时,其观察与推理能力仍有巨大提升空间。“点得多”并不等同于“会观察”。

结语:明确AI三维科学观察的能力边界

ScienceVision的独特性体现在三个方面:

  1. 真三维数据:基于源文件而非截图,要求模型结合领域知识进行拓扑和几何推理。
  2. 专家工作流工具:通过MCP开放视角切换、隔离、切片等能力,由模型自主决定观察策略。
  3. 统一确定性评分:跨学科使用同一套评分规则,实现公平比较。

相较于侧重可视化任务执行的SciVisAgentBench,ScienceVision更关注受领域知识约束的结构性问题。它首次在统一框架下量化了AI在三维科学观察上的能力边界,为后续模型优化指明了方向。

资源链接:

GitHub开源链接:https://github.com/UniPat-AI/ScienceVision/

Benchmark链接:https://huggingface.co/datasets/UnipatAI/ScienceVision

论文链接:https://github.com/UniPat-AI/ScienceVision/blob/main/paper/sciencevision.pdf

编辑:所罗门 桃子

【声明】内容源于网络
0
0
新智元
智能+中国主平台,致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展,关注人机融合、人工智能和机器人革命对人类社会与文明进化的影响,领航中国新智能时代。
内容 16678
粉丝 0
新智元 智能+中国主平台,致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展,关注人机融合、人工智能和机器人革命对人类社会与文明进化的影响,领航中国新智能时代。
总阅读481.0k
粉丝0
内容16.7k