开云体育网站|官方地址与登录入口

新闻中心

行业新闻 公司新闻

首页 > 新闻中心 > 公司新闻

GPT-6“看不懂 3D”实锤,250道题只拿0.53分,Claude没及格

2026-10-30

近期,GPT-6 Astra 绘制 CAD 的视频在 X 平台上引发广泛关注。

例如,视频中展示的涡轮增压器,其每个零件均独立建模,不仅能够正常旋转,还能一键实现原地拆解与展开,视觉效果令人震撼。

一时间,GPT-6 Astra 在 BenchCAD 测试中取得了高达 95.9% 的成绩,评论区甚至开始热议 CAD 工程师是否面临职业危机。

然而,也有工程师泼了冷水:这些零件,一个都不能直接投入生产线。因为画得像,不代表画得对。

外行看热闹,内行看门道。表面上,模型已能复现 CAD 的视觉界面,但从专业工程师的角度看,这些模型在科学原理、几何结构及部件关系上是否真正准确?是否存在一个专业测评基准,能检验 AI 对三维科学对象的观察与理解能力,并评估其生成的三维对象是否满足科学与工程要求?

最近发现了一个 benchmark,确实能评测 AI 在建筑设计中的 CAD 能力。它会像专业工程师一样,对零件进行逐项检查,从结构关系到几何细节,逐一核验,判断模型生成结果是否符合标准。

这个 benchmark 名为 ScienceVision。 其评测范围不仅涵盖工程制图,还涉及生物、化学、医学影像、建筑和机械 CAD 共 5 个科学领域、22 个子领域,包含 250 道基于真实三维数据构建的题目,要求模型通过自主操作三维对象,完成观察、测量与分析。

表现最佳的 GPT-6-Astra(搭配 Codex)仅获得 0.53 分。满分 1 分。

在 BenchCAD 上拿到 95.9 分的选手,到了三维科学理解与推理的考场上,只过了一半。

ScienceVision 由 UniPat AI 和视觉推理实验室 Elorian AI 开发,是一个基于专家级视觉问答(VQA)的跨学科视觉三维理解与推理 benchmark,团队透露其开发初衷源于一个问题:AI 能否像科学家一样观察和推理?

根据现有结果,评测覆盖了 GPT-6 Astra、Claude Fable 5.1、Gemini 4 Argon、Qwen3.8 Max 等当前 12 个最新、最强的开源与闭源前沿大模型, 但没有一个模型能在五个学科中同时领先。

这些题目究竟有多难,竟让众多模型表现如此不佳?

先看题目样貌

ScienceVision 的 demo 展示了五个学科各自的检视操作实录,其中使用的 3D 工具按照领域专家处理三维源数据的实际操作方式建模,模拟了最真实的 3D 观察场景。

生物学科的题目:将整个蛋白质隐藏,只保留一个柠檬酸分子及其周围的几个离子,测量它们之间的距离。

化学学科的题目最短,仅需 8 步:框选一个晶胞,利用对称操作观察其逐层堆积方式。

医学影像学科的题目:CT 从三个方向反复切割,寻找肾脏上病灶的边界。

CAD 学科的题目:展示一台叉车,逐一点击零件,统计相同零件的数量。

建筑学科的题目:沿着一条坡道测量长度和高差,判断坡度是否超标。

五段 demo 观看下来,如同各领域的人类专家在审核自己领域的 3D 视觉问题。操作本身并不复杂:旋转、点击、测量,但难点在于每一步都需要先想清楚往哪转、点什么、量哪里,如果没有扎实的观察、理解与推理,很难做出正确判断。

如果只看视频不过瘾,可以亲自尝试。

这五道题的原始文件和检视工具,ScienceVision 的博客已全部开放:用户可以自行点击题目,切换 3D 或平面视图,体验如何通过真实的三维检视过程,评估 AI 的科学观察能力。下方展示上手实测,供大家感受:

题目介绍完毕,再来说说为何要设计这套题目。

科学 3D 评测的空白地带

过去已有不少 3D 理解与推理基准,涵盖室内场景理解、具身交互、抽象结构推理等方向,但它们主要服务于日常场景感知、机器人操作或工业设计等通用任务。

然而,真正面向科学领域的 3D 理解与推理基准几乎空白,仅有医学影像和机械工程等少数应用场景的专门基准,且尚未形成体系化的科学 3D 推理评测。

但科学研究过程天然对真实三维世界中的观察、推理能力有要求。

这种能力要求贯穿于不同学科的实践中:化学家需要定位原子、测量几何关系;放射科医生需要在不同切片间追踪结构;建筑工程师需要切换视角、排除遮挡、确认构件的连接关系。

这些任务没有一项是看一眼图就能完成的。人类科学家需要根据过往经验,决定往哪看、怎么看、量什么,看完了再用专业知识下结论。对于 AI Scientist 而言,道理相同。

ScienceVision 考察 AI 的逻辑也一样:题目和数据摆在眼前,自己决定看哪里、怎么查。其中的关键之处类似于「斯坦门茨画线」:画一条线值 1 美元,知道在哪儿画线值 9999 美元。这就能看出哪个模型更有水平,而可靠的观察和理解,正是检验的第一步。

在过往科学领域 3D 理解和推理的评测方面,不同学科的问题设定、任务输入和评估方式五花八门,例如 3D 文件格式不统一、渲染交互逻辑不一致、表达形式也各不相同。

ScienceVision 要填补的正是这个空白,打造一个统一的跨学科 3D 视觉理解评测。

250 道题,66 位专家,近 500 小时

ScienceVision 涵盖五个学科:生物学、化学、医学影像、机械 CAD 和建筑学。每个学科 50 道题,共 250 道,横跨 22 个子领域。

每道题由四部分组成:一份真实的 3D 源数据(分子坐标、CT 体数据、机械装配体或建筑模型),一个领域问题(看什么、在哪找、用什么单位和坐标),一份作答要求(返回什么、什么格式),再加一个专家标好的参考答案。

答案采用确定性规则核验,不使用语言模型作为裁判。没有「大致正确」的说法,达到就是达到,未达到就是未达到。

一个带确定性校验的 benchmark,还蕴含另一层潜力:它几乎可以原地变成一个强化学习环境:答对给奖励,答错不给,不需要另一个模型当裁判。

不过,设计这套题目本身极为困难。

首先,要选出科学上有意义、确实依赖三维证据的问题。 构题需要从具体科学对象出发,明确观察目标、判定条件和所需证据,并确认题目能在给定环境中解答。每道题都必须同时满足专业上成立、视觉目标清晰、答案可复核。

其次,要让不同领域的数据都能被正确观察和测量。 分子坐标、CT 体数据、机械 CAD 和建筑模型具有不同的格式、尺度、坐标约定和操作方式。在转换与展示过程中,需保留关键结构信息,并提供适用于各类对象的查看、隔离、切片和测量能力。

最后,要依靠领域专家建立可信的答案和证据过程。 专家需检查问题的真实性和相关性,实际观察对象、计算或确认答案,记录关键步骤,并参与审核与返修。五个领域的专业规则不同,这些工作需要相应领域的知识和经验。

整套流程是机器和人接力完成的。

先由自动化管线出题:从三维资产库中挑选适合出题的对象,在查看器中测试能否正常查看和测量,再按模板生成候选题,经过规则筛选后打包。

然后由专家接手:在 3D 标注平台上审题、改题,亲自上手旋转、隔离、测量,写下参考答案,操作轨迹同步录制,最后通过质量审核,不合格的退回。专家退回的意见又反馈给出题管线,使其下一轮减少相同错误。

出题、专家审核、自动修题、改进管线,反复循环,才得到这 250 道题。

最终,这套题的质量依赖于人。

UniPat AI 搭建了覆盖五个领域的专家平台,维护 66 名领域专家,累计投入 482.98 小时。其中化学 113 小时,机械 CAD 116 小时,医学影像 103 小时,建筑 77 小时,生物 74 小时。

专家们审查问题、标注答案、记录操作过程,并参与多轮审核与返修。

这恰好呼应了 ScienceVision 的核心定位:它要测的是 AI 是否具备专家级的观察能力,因此答案本身需由专家建立才更有说服力。

前面 demo 中的操作记录,250 道题每一道都附带了,并逐步保存了关键帧。

这些记录将科学观察从只看得到结论的黑箱,变成了可逐步回放的过程。未来要训练 AI 学会「看」,这就是现成的对标数据。

在考法上,ScienceVision 在同一套 250 道题上比较了三种证据获取方式:

第一种,给模型原始三维数据,让它自己写代码分析。 相当于给了全部原始实验数据,由模型自行计算。

第二种,在数据基础上再提供一套交互检视工具,可旋转视角、隔离结构、切片浏览、测量距离和角度。 相当于不仅给了数据,还给了显微镜。

第三种,只给六张固定角度的二维渲染图。 看模型能从照片中看出什么。

三种方式使用同一套评分标准。

这可以直接回答一个问题:数据更多、工具更全,模型的表现是否会更好?

分数不高,反转不少

来看结果,最高分 0.53(GPT-6-Astra 搭配 Codex),刚过满分的一半。而且这并非答对率,而是包含部分得分的平均指标,真正完全答对的比例更低。

学科间的差异比总分更有趣。

没有模型能在五个学科中全面领先。GPT-6 Astra 在建筑、机械 CAD 和化学三科领先(0.458、0.580、0.609),生物学科被 Claude Fable 5.1 以 0.650 超越,医学影像则是 Claude Opus 5.5 以 0.399 领先。

CT 本来就是一叠切片,放射科医生读的也是切片,模型训练时见过海量的二维医学影像。

但面对一个带轴序和体素索引的三维数组,模型就不那么熟悉了。

只给六张固定角度的渲染图,分数下降更明显:最好的 Claude Fable 5.1 也只有 0.30,GPT-6 Astra 0.25。

换句话说,给照片,模型看不出来;给三维数据,分数虽有所提升,但论文指出,这些分可能是代码从坐标中计算出来的,是否算「看见了」仍存疑。

更扎心的是,给工具也一样。

榜单前五的模型中,加上交互检视工具后涨幅最大的 GPT-6.1 Sol 也只涨了 0.02,GPT-6 Astra 两种设置差不到 0.01,Claude Opus 5.5 还下降了 0.02。

论文中还提到一个细节:即使在工具模式下,模型仍会去读取原始坐标文件。也就是说,给它显微镜和数据表,它选择数据表。

医学影像学科最出人意料,模型的操作次数是专家的三倍左右,得分却是五个学科中最低的。

这表明当前的前沿模型即使获得最充分的 3D 数据和工具支持,面对真实科学任务的观察与推理,仍差距甚远。

操作次数多,不代表会观察、会推理。

首次在统一框架下,衡量出 AI 三维科学观察的能力边界

在 ScienceVision 之前,科学多模态评测并非没有,但大多只关注一个学科,只看二维图片,评分规则也各自为政。

ScienceVision 的独特价值可归纳为三件事:

第一,题目是真正三维的。 模型拿到的是分子坐标、CT 体数据、机械装配体、建筑模型等源文件,而非平面截图。答题需用领域知识解释三维结构证据,有些题还需先通过观察识别目标,再结合拓扑和几何推理,环环相扣。

第二,工具是参照专家工作流设计的。 视角切换、目标隔离、切片浏览、科学测量等检视操作通过 MCP 开放给模型,具体功能取决于查看器。看哪、怎么看、量什么,由模型自行决定,无人替它挑选证据。

第三,评分是确定性的,五个学科采用同一套标准。 每道题有参考答案和预设规则,答案各组成部分分开核验,再按模型配置和学科汇总得分。不依赖另一个模型打分,化学分子和建筑构件的成绩,首次能放在一起比较。

与之最相关的 SciVisAgentBench 同样支持三维交互检查,但评测目标不同:

ScienceVision 在五个学科中均采用同一类问题,即受领域知识约束的结构性问题,加上结构化的领域问题和逐题参考答案评分;SciVisAgentBench 则主要围绕科学可视化软件中的任务展开,评估 Agent 生成的可视化与分析结果是否符合任务要求。

可以说,ScienceVision 首次在统一框架下衡量出了 AI 三维科学观察的能力边界。

知道差距在哪,才知道如何追赶。

下次若有人宣布「AI 科学家来了」,不妨先让它完成这 250 道题再说。

本文来自微信公众号“新智元”,作者:ASI启示录,36氪经授权发布。

开云体育网站|官方地址与登录入口科技有限公司简单 · 可靠 · 贴心电话:+86 176 6927 1311邮箱:[email protected]深圳市南山区科技园北区411座