GeneMAN是什么?一文让你看懂GeneMAN的技术原理、主要功能、应用场景

来源:卓商AI
发布时间:2025-04-05

GeneMAN概述简介

GeneMAN是上海AI实验室、北京大学、南洋理工大学、上海交通大学联合推出的3D人形创建框架,能从单张图片中创建出高保真度的3D人体模型。框架不依赖于参数化人体模型,是用多源高质量人类数据集,包括3D扫描、多视角视频、单张照片和合成数据训练人类特定的2D和3D先验模型。GeneMAN基于几何初始化、雕刻流程和多空间纹理细化技术,实现从自然环境数据图像中提取高质量3D人体模型的目标,不论图像中的人体比例、姿势或服装如何变化。

GeneMAN的功能特色

处理多样化的人体比例:无论图片中的人物是全身、半身还是特写,GeneMAN都能重建出相应的3D模型。

适应不同的服装和姿势:GeneMAN能处理各种服装和人体姿势,包括自然姿势和常见物品。

处理野外图像:GeneMAN特别擅长处理自然环境下的图像,即所谓的“野外数据”,这些图像可能包含多种复杂背景和光照条件。

生成高质量的纹理:基于多空间纹理细化流程,GeneMAN能生成细节丰富、与输入图像一致的3D人体纹理。

GeneMAN的技术原理

2D和3D人类先验模型训练:

文本到图像扩散模型:训练一个人类特定的文本到图像扩散模型,用在生成2D人类先验。

视图条件扩散模型:训练一个视图条件扩散模型,用在生成3D人类先验。

几何初始化与雕刻流程:

无模板几何初始化:用NeRF(神经辐射场)技术初始化一个无模板的3D几何形状。

结合先验与损失:结合GeneMAN的2D和3D先验及结构化差异损失(SDS损失)引导几何初始化。

参考损失:用参考损失确保与输入图像的对齐。

高分辨率细化:将NeRF转换为DMTet(深度多面体网格)进行高分辨率的几何细化,由预训练的人类特定的法线和深度适应扩散模型引导。

多空间纹理细化流程:

粗纹理生成:用多视图纹理技术生成粗略的纹理。

潜在空间细化:在潜在空间中迭代细化纹理。

像素空间细化:基于优化UV图在像素空间中获得详细纹理,用基于2D先验的ControlNet进行优化。

GeneMAN项目介绍

项目官网:roooooz.github.io/GeneMAN

GitHub仓库:https://github.com/roooooz/GeneMAN(即将开源)

arXiv技术论文:https://arxiv.org/pdf/2411.18624

GeneMAN能做什么?

虚拟试衣:用户上传自己的全身照片,生成3D模型,用于在线试穿服装,提供更真实的试衣体验。

游戏和娱乐:在游戏和电影制作中,创建或修改角色模型,提供更个性化和逼真的角色设计。

增强现实(AR)和虚拟现实(VR):在AR和VR应用中,生成用户的3D化身,提高沉浸感和交互性。

时尚设计:设计师快速将设计草图转换成3D模型,加速设计流程。

健身和健康管理:基于分析用户的3D模型,提供个性化的健身指导和健康建议。

© 版权声明:本站所有原创文章版权均归卓商AI工具集及原创作者所有,未经允许任何个人、媒体、网站不得转载或以其他方式抄袭本站任何文章。
卓商AI
卓商AI

AI爱好者的一站式人工智能AI工具箱,累计收录全球10,000⁺好用的AI工具软件和网站,方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用,力争做全球排名前三的AI网址导航网站,欢迎您成为我们的一员。

猜你喜欢
  • WiseWorld
    WiseWorld WiseWorld是一个利用人工智能和游戏化技术来提升员工软技能的平台。它通过模拟真实生活情景,帮助员工在沟通、问题解决、团队合作等方面进行实践和提升...
  • Ebi.Ai
    Ebi.Ai EBI AI提供的AI助手可以从第一天起处理您85%的常规查询,只需几分钟即可设置。通过更快的响应速度和全天候服务,让客户更满意。同时,EBI AI可...
  • Junie
    Junie Junie是JetBrains开发的一款创新的编程代理工具,旨在帮助开发者通过自然语言交互的方式完成代码任务。它能够理解项目上下文,执行代码编写、测试...
  • CodeGuide
    CodeGuide CodeGuide是一个专注于算法学习的网站,它通过与用户的交互,提供优化建议和正确的学习方向。它基于会话学习,实时工作,通过用户输入提出有益的想法,...
  • coral ai
    coral ai Coral AI是一种基于AI的复杂搜索引擎和摘要工具,可以帮助您快速,轻松地找到信息。它可以在几秒钟内扫描和分析文档,为您提供答案片段,摘要,翻译和...
  • FlowScraper
    FlowScraper FlowScraper是一个直观的网页抓取工具,它允许用户无需编码即可从网站收集数据。通过拖放式的流程构建器,用户可以快速轻松地创建自定义抓取工作流并...
  • Tabby
    Tabby Tabby是一个开源的、自托管的AI编程助手,它利用Rust语言的优势,为开发者提供快速且安全的编程体验。Tabby允许用户通过简单的TOML配置文件...
  • PaintsUndo.com
    PaintsUndo.com PaintsUndo是一个创新的AI绘画项目,模拟数字绘画中的人类绘画行为,包括素描、上色和着色。它通过单帧和多帧模型,能够生成连贯的绘画过程视频,为...