给角色单独调整一只手臂,从家具模型中取出靠背,或把现有资产中的一个零件用于新的设计,都是围绕“部件”展开的创作需求。模型已经有了,创作者还需要一种直观的方式,把想操作的部分单独取出来。
Meshy AI 联合香港中文大学(深圳)等机构提出 SAM3D-Part,一种面向已有 3D 网格的交互式部件生成框架。用户通过一次或少量点击指定需要的部分,模型结合源网格的几何信息,生成对应的完整部件,为局部编辑、资产复用和后续装配提供基础。
图 1 SAM3D-Part 支持逐级提取子部件,也支持连续选择不同部件完成模型拆解。原论文图 1。
让部件选择直接通向完整网格
想单独取出一只龙的翅膀,替换一条椅子腿,或复用角色身上的一件配饰,创作者往往只关心模型中的局部。自动拆解整个物体会产生额外结果,而且拆分粒度未必符合当前任务。
交互式分割可以帮助用户选中区域,但得到的表面片段通常仍需补全。仅根据渲染图生成部件,则容易在遮挡处偏离原模型,也难以准确恢复部件的位置和大小。
SAM3D-Part 将用户选择和源几何结合起来:二维提示说明要生成哪个部件,三维网格约束它的实际形状,密集对应关系帮助它回到源模型的坐标系。我们由此把部件提取建模为条件生成问题,直接输出完整的独立网格。
技术框架
SAM3D-Part 基于两阶段稀疏 3D 生成框架,第一阶段预测部件结构与空间对应关系,第二阶段细化几何。用户的点选提示与原始网格共同参与生成,已提取的部件则作为后续操作的上下文。
多模态条件融合
输入网格首先被渲染为 RGB 图像和点图,后者记录前景像素对应的三维坐标。用户点击目标后,SAM 系列分割模型给出部件掩码。RGB、掩码和点图分别提供外观、选择意图与空间信息。
我们在同一图像块位置融合这三类特征,使每个特征单元(token)都对应同一局部区域。模型同时读取部件附近的裁剪视图和完整视图,兼顾细节与上下文;源网格则通过 Hunyuan3D-2.1 ShapeVAE 编码为三维条件,让生成器能够利用当前视角不可见的几何。
这种融合也减少了条件序列的冗余。在论文的第一阶段效率测试中,加入网格条件并进行融合后,条件 token 数由未融合版本的 12,314 降至 6,836,减少约 44.5%;交叉注意力计算量也比 SAM3D 基线低约 15%。
密集对应关系与两阶段生成
第一阶段同时预测粗略占据结构和密集 XYZ 对应关系。每个被占据的体素,都具有一个预测的源模型坐标。模型据此利用分布在整个部件上的空间证据,通过闭式求解估计统一缩放与平移,恢复部件的位置和大小。训练时的局部归一化保留源坐标轴方向,方向一致性由模型学习。
第二阶段在已确定的占据区域上细化结构化潜变量,并继续引入源网格条件,使生成的表面细节贴近原模型,最终解码得到完整部件网格。
支持连续提取的部件缓存
当用户连续查询多个部件时,我们将此前生成的部件存入二值体素缓存,并把“该区域是否已被提取”的标记附加到网格特征中。后续生成因而能够参考提取历史,减少不同部件之间的重叠与冲突。
从局部选择到连续拆解
SAM3D-Part 支持按当前任务决定提取粒度。用户既可以取出整条手臂,也可以继续选择手部或更小的子部件;需要多个组件时,则可以逐次点选,得到能够放回同一源坐标系的独立网格。
这种方式把交互集中在需要处理的部件上。论文展示了机械角色的细粒度提取与角色模型的连续拆解,也在训练分布之外的风格化人物、家具和武器等生成式资产上展示了结果。
更准确的部件形状与空间对齐
研究团队整理了约 18.7 万个具有合理部件结构的训练资产,并在独立的 500 个资产测试集与 PartObjaverse-Tiny 上进行评估。对比方法包括 SAM-3D-Objects、HoloPart + P3-SAM、X-Part + P3-SAM 和 OmniPart。
SAM3D-Part 在两个测试集的四项报告指标上均取得最佳结果,体现出更好的部件几何重建与空间对齐能力。以 500 个资产测试集为例,相比 OmniPart,衡量几何重建误差的 Chamfer Distance 降低约 72%。完整指标与评估设置见论文。
可视化对比进一步展示了这些差异:SAM3D-Part 在保持部件独立性的同时,更好地恢复了源模型的形状细节与部件位置。源网格条件、密集 XYZ 对应关系及部件缓存的作用,也得到论文消融实验的支持。
图 2 多部件测试集上的对比,同时展示部件装配与独立展开的结果。最右列为真实部件。原论文图 4。
目前,极细的镂空结构与严重交叠的部件仍然具有挑战。后续研究将探索更高分辨率的表示、多视图掩码监督和部件接触关系建模,进一步改善复杂资产的提取质量。
SAM3D-Part 为已有 3D 资产提供了按需生成部件的交互方式。我们希望,创作者能够更方便地把模型中的局部取出来,继续编辑、组合与复用。
论文与代码
SAM3D-Part: Interactive Part Selection and Generation from 3D Objects
论文链接:arXiv 2609.15639
代码链接:Jiahao620/sam3d-part

