GeneMAN是什么?一文让你看懂GeneMAN的技术原理、主要功能、应用场景

来源:卓商AI
发布时间:2025-04-05

GeneMAN概述简介

GeneMAN是上海AI实验室、北京大学、南洋理工大学、上海交通大学联合推出的3D人形创建框架,能从单张图片中创建出高保真度的3D人体模型。框架不依赖于参数化人体模型,是用多源高质量人类数据集,包括3D扫描、多视角视频、单张照片和合成数据训练人类特定的2D和3D先验模型。GeneMAN基于几何初始化、雕刻流程和多空间纹理细化技术,实现从自然环境数据图像中提取高质量3D人体模型的目标,不论图像中的人体比例、姿势或服装如何变化。

GeneMAN的功能特色

处理多样化的人体比例:无论图片中的人物是全身、半身还是特写,GeneMAN都能重建出相应的3D模型。

适应不同的服装和姿势:GeneMAN能处理各种服装和人体姿势,包括自然姿势和常见物品。

处理野外图像:GeneMAN特别擅长处理自然环境下的图像,即所谓的“野外数据”,这些图像可能包含多种复杂背景和光照条件。

生成高质量的纹理:基于多空间纹理细化流程,GeneMAN能生成细节丰富、与输入图像一致的3D人体纹理。

GeneMAN的技术原理

2D和3D人类先验模型训练:

文本到图像扩散模型:训练一个人类特定的文本到图像扩散模型,用在生成2D人类先验。

视图条件扩散模型:训练一个视图条件扩散模型,用在生成3D人类先验。

几何初始化与雕刻流程:

无模板几何初始化:用NeRF(神经辐射场)技术初始化一个无模板的3D几何形状。

结合先验与损失:结合GeneMAN的2D和3D先验及结构化差异损失(SDS损失)引导几何初始化。

参考损失:用参考损失确保与输入图像的对齐。

高分辨率细化:将NeRF转换为DMTet(深度多面体网格)进行高分辨率的几何细化,由预训练的人类特定的法线和深度适应扩散模型引导。

多空间纹理细化流程:

粗纹理生成:用多视图纹理技术生成粗略的纹理。

潜在空间细化:在潜在空间中迭代细化纹理。

像素空间细化:基于优化UV图在像素空间中获得详细纹理,用基于2D先验的ControlNet进行优化。

GeneMAN项目介绍

项目官网:roooooz.github.io/GeneMAN

GitHub仓库:https://github.com/roooooz/GeneMAN(即将开源)

arXiv技术论文:https://arxiv.org/pdf/2411.18624

GeneMAN能做什么?

虚拟试衣:用户上传自己的全身照片,生成3D模型,用于在线试穿服装,提供更真实的试衣体验。

游戏和娱乐:在游戏和电影制作中,创建或修改角色模型,提供更个性化和逼真的角色设计。

增强现实(AR)和虚拟现实(VR):在AR和VR应用中,生成用户的3D化身,提高沉浸感和交互性。

时尚设计:设计师快速将设计草图转换成3D模型,加速设计流程。

健身和健康管理:基于分析用户的3D模型,提供个性化的健身指导和健康建议。

© 版权声明:本站所有原创文章版权均归卓商AI工具集及原创作者所有,未经允许任何个人、媒体、网站不得转载或以其他方式抄袭本站任何文章。
卓商AI
卓商AI

AI爱好者的一站式人工智能AI工具箱,累计收录全球10,000⁺好用的AI工具软件和网站,方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用,力争做全球排名前三的AI网址导航网站,欢迎您成为我们的一员。

猜你喜欢
  • Voice Remaker - Free AI Voice
    Voice Remaker - Free AI Voice Voice Remaker是一个完全免费的AI语音生成工具,使用最好的合成音色,为您生成最接近人声的文本转语音(TTS)音频。即时将文本转换为自然流畅...
  • gaslighting check
    gaslighting check Gas Lighting检查工具,一种创新的AI驱动解决方案,旨在帮助个人识别操纵,恢复真相并重新获得对他们的关系的信心。...
  • audio enhancer
    audio enhancer 使用AudioEnhancer.ai增强音频内容。他们先进的AI驱动技术改变了声音质量,为播客,视频和音乐提供了清晰的音频。 AudioEnhance...
  • Kinetix
    Kinetix Kinetix的SDK和API可以帮助你在游戏中集成全球最大的表情包库(头像动画)和用户生成的表情包功能,只需几行代码即可实现。我们的技术支持自动检测...
  • 天工SkyMusic
    天工SkyMusic 基于昆仑万维「天工3.0」超级大模型打造的AI音乐生成大模型「天工SkyMusic」,支持高质量AI音乐生成、人声合成、歌词段落控制、多种音乐风格和音...
  • Agenda Runner
    Agenda Runner Agenda Runner是一个免费的在线工具,使用AI快速构建会议议程。它帮助用户描述会议的一般细节和具体议题,并根据提供的信息生成公共的会议议程。...
  • Hackules
    Hackules Hackules是一个帮助企业进行数字化建设和增长的软件开发、网站开发、设计和数字营销服务提供商。我们使用自动化和人工智能来加快软件开发的速度,减少成...
  • Pin Drop
    Pin Drop Pin Drop是一款集Map、规划和协作于一体的应用,它能够帮助用户轻松探索新目的地、规划日常行程,并创建难忘的旅程。这款应用不仅适用于个人冒险,也...