GeneMAN是什么?一文让你看懂GeneMAN的技术原理、主要功能、应用场景

来源:卓商AI
发布时间:2025-04-05

GeneMAN概述简介

GeneMAN是上海AI实验室、北京大学、南洋理工大学、上海交通大学联合推出的3D人形创建框架,能从单张图片中创建出高保真度的3D人体模型。框架不依赖于参数化人体模型,是用多源高质量人类数据集,包括3D扫描、多视角视频、单张照片和合成数据训练人类特定的2D和3D先验模型。GeneMAN基于几何初始化、雕刻流程和多空间纹理细化技术,实现从自然环境数据图像中提取高质量3D人体模型的目标,不论图像中的人体比例、姿势或服装如何变化。

GeneMAN的功能特色

处理多样化的人体比例:无论图片中的人物是全身、半身还是特写,GeneMAN都能重建出相应的3D模型。

适应不同的服装和姿势:GeneMAN能处理各种服装和人体姿势,包括自然姿势和常见物品。

处理野外图像:GeneMAN特别擅长处理自然环境下的图像,即所谓的“野外数据”,这些图像可能包含多种复杂背景和光照条件。

生成高质量的纹理:基于多空间纹理细化流程,GeneMAN能生成细节丰富、与输入图像一致的3D人体纹理。

GeneMAN的技术原理

2D和3D人类先验模型训练:

文本到图像扩散模型:训练一个人类特定的文本到图像扩散模型,用在生成2D人类先验。

视图条件扩散模型:训练一个视图条件扩散模型,用在生成3D人类先验。

几何初始化与雕刻流程:

无模板几何初始化:用NeRF(神经辐射场)技术初始化一个无模板的3D几何形状。

结合先验与损失:结合GeneMAN的2D和3D先验及结构化差异损失(SDS损失)引导几何初始化。

参考损失:用参考损失确保与输入图像的对齐。

高分辨率细化:将NeRF转换为DMTet(深度多面体网格)进行高分辨率的几何细化,由预训练的人类特定的法线和深度适应扩散模型引导。

多空间纹理细化流程:

粗纹理生成:用多视图纹理技术生成粗略的纹理。

潜在空间细化:在潜在空间中迭代细化纹理。

像素空间细化:基于优化UV图在像素空间中获得详细纹理,用基于2D先验的ControlNet进行优化。

GeneMAN项目介绍

项目官网:roooooz.github.io/GeneMAN

GitHub仓库:https://github.com/roooooz/GeneMAN(即将开源)

arXiv技术论文:https://arxiv.org/pdf/2411.18624

GeneMAN能做什么?

虚拟试衣:用户上传自己的全身照片,生成3D模型,用于在线试穿服装,提供更真实的试衣体验。

游戏和娱乐:在游戏和电影制作中,创建或修改角色模型,提供更个性化和逼真的角色设计。

增强现实(AR)和虚拟现实(VR):在AR和VR应用中,生成用户的3D化身,提高沉浸感和交互性。

时尚设计:设计师快速将设计草图转换成3D模型,加速设计流程。

健身和健康管理:基于分析用户的3D模型,提供个性化的健身指导和健康建议。

© 版权声明:本站所有原创文章版权均归卓商AI工具集及原创作者所有,未经允许任何个人、媒体、网站不得转载或以其他方式抄袭本站任何文章。
卓商AI
卓商AI

AI爱好者的一站式人工智能AI工具箱,累计收录全球10,000⁺好用的AI工具软件和网站,方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用,力争做全球排名前三的AI网址导航网站,欢迎您成为我们的一员。

猜你喜欢
  • Graphiti
    Graphiti Graphiti 是一个专注于构建动态时序知识图谱的技术模型,旨在处理不断变化的信息和复杂的关系演变。它通过结合语义搜索和图算法,支持从非结构化文本和...
  • Stable Audio Open
    Stable Audio Open Stable Audio Open是一个开源的文本到音频模型,专为生成短音频样本、音效和制作元素而优化。它允许用户通过简单的文本提示生成高达47秒的高...
  • Quadratic AI
    Quadratic AI Quadratic AI 是一款专注于数据处理与分析的生产力工具。它通过先进的 AI 技术,帮助用户快速理解、分析和可视化数据,从而提高工作效率和决策...
  • Comments Analytics
    Comments Analytics 评论分析是一款帮助用户提取和分析页面评论的工具。它使用人工智能技术来提取和量化评论中的情感信息,并进行情感分析、实体识别和关键词提取等功能。通过对评论...
  • Alex Sidebar
    Alex Sidebar Alex Sidebar是一个为Xcode设计的智能侧边栏插件,它通过提供多种功能来增强开发者的编程效率。产品背景信息显示,Alex Sidebar由...
  • Mesh
    Mesh Mesh 是一款面向初创企业的 AI 财务管理工具,通过实时数据同步和自动化功能,帮助创始人摆脱繁琐的财务工作。它利用先进的 AI 技术,实现账目自动...
  • 豆包 MarsCode 代码练习
    豆包 MarsCode 代码练习 豆包 MarsCode 是一款面向编程学习者的在线代码练习平台。它通过整合先进的AI技术和全功能代码编辑器,为用户提供了一个高效、实用的学习环境。该平...
  • dollars mono
    dollars mono 用美元MOCAP熟练地捕获面部和全身运动。该创新软件利用网络摄像头或视频文件进行实时运动捕获和手指跟踪,为动画,游戏等提供精确的结果。告别昂贵的设备,...