GeneMAN是什么?一文让你看懂GeneMAN的技术原理、主要功能、应用场景

来源:卓商AI
发布时间:2025-04-05

GeneMAN概述简介

GeneMAN是上海AI实验室、北京大学、南洋理工大学、上海交通大学联合推出的3D人形创建框架,能从单张图片中创建出高保真度的3D人体模型。框架不依赖于参数化人体模型,是用多源高质量人类数据集,包括3D扫描、多视角视频、单张照片和合成数据训练人类特定的2D和3D先验模型。GeneMAN基于几何初始化、雕刻流程和多空间纹理细化技术,实现从自然环境数据图像中提取高质量3D人体模型的目标,不论图像中的人体比例、姿势或服装如何变化。

GeneMAN的功能特色

处理多样化的人体比例:无论图片中的人物是全身、半身还是特写,GeneMAN都能重建出相应的3D模型。

适应不同的服装和姿势:GeneMAN能处理各种服装和人体姿势,包括自然姿势和常见物品。

处理野外图像:GeneMAN特别擅长处理自然环境下的图像,即所谓的“野外数据”,这些图像可能包含多种复杂背景和光照条件。

生成高质量的纹理:基于多空间纹理细化流程,GeneMAN能生成细节丰富、与输入图像一致的3D人体纹理。

GeneMAN的技术原理

2D和3D人类先验模型训练:

文本到图像扩散模型:训练一个人类特定的文本到图像扩散模型,用在生成2D人类先验。

视图条件扩散模型:训练一个视图条件扩散模型,用在生成3D人类先验。

几何初始化与雕刻流程:

无模板几何初始化:用NeRF(神经辐射场)技术初始化一个无模板的3D几何形状。

结合先验与损失:结合GeneMAN的2D和3D先验及结构化差异损失(SDS损失)引导几何初始化。

参考损失:用参考损失确保与输入图像的对齐。

高分辨率细化:将NeRF转换为DMTet(深度多面体网格)进行高分辨率的几何细化,由预训练的人类特定的法线和深度适应扩散模型引导。

多空间纹理细化流程:

粗纹理生成:用多视图纹理技术生成粗略的纹理。

潜在空间细化:在潜在空间中迭代细化纹理。

像素空间细化:基于优化UV图在像素空间中获得详细纹理,用基于2D先验的ControlNet进行优化。

GeneMAN项目介绍

项目官网:roooooz.github.io/GeneMAN

GitHub仓库:https://github.com/roooooz/GeneMAN(即将开源)

arXiv技术论文:https://arxiv.org/pdf/2411.18624

GeneMAN能做什么?

虚拟试衣:用户上传自己的全身照片,生成3D模型,用于在线试穿服装,提供更真实的试衣体验。

游戏和娱乐:在游戏和电影制作中,创建或修改角色模型,提供更个性化和逼真的角色设计。

增强现实(AR)和虚拟现实(VR):在AR和VR应用中,生成用户的3D化身,提高沉浸感和交互性。

时尚设计:设计师快速将设计草图转换成3D模型,加速设计流程。

健身和健康管理:基于分析用户的3D模型,提供个性化的健身指导和健康建议。

© 版权声明:本站所有原创文章版权均归卓商AI工具集及原创作者所有,未经允许任何个人、媒体、网站不得转载或以其他方式抄袭本站任何文章。
卓商AI
卓商AI

AI爱好者的一站式人工智能AI工具箱,累计收录全球10,000⁺好用的AI工具软件和网站,方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用,力争做全球排名前三的AI网址导航网站,欢迎您成为我们的一员。

猜你喜欢
  • promptmate io
    promptmate io 通过PromstMate.io提高您的AI表现。运行批量查询,并使用pro-emplates进行高质量的结果。将外部数据源添加到高级用例的查询中。仅使...
  • Dokkio
    Dokkio Dokkio是一款利用人工智能技术提供云文件协作的工具。它能帮助用户管理多个活动、搜索文档和文件、整理研究材料、组织内容库,并将所有文件和内容集中在一...
  • Ministral-8B-Instruct-2410
    Ministral-8B-Instruct-2410 Ministral-8B-Instruct-2410是由Mistral AI团队开发的一款大型语言模型,专为本地智能、设备端计算和边缘使用场景设计。该...
  • VoiceRec
    VoiceRec VoiceRec 是一款集语音录制、转文字识别与共享于一体的人工智能语音应用。支持语音转文字、精准识别、支持多国语言、支持导出多种格式。...
  • Krammar
    Krammar Krammar是一个在线语法检查工具,旨在帮助用户避免发送语法错误的消息。它通过先进的算法分析用户输入的文本,提供实时的语法建议和纠正。这一技术对于提...
  • Wegic
    Wegic Wegic是一款AI网站设计和开发工具,它通过聊天的方式帮助用户设计和发布网站。Wegic利用人工智能技术简化了网站创建过程,使得没有编程或设计背景的...
  • langgaph-course
    langgaph-course 这是一个专注于LangGraph的高级应用课程,提供Reflective RAG, Self-RAG和Adaptive RAG的实现,旨在帮助开发者和...
  • Seed-Music
    Seed-Music Seed-Music 是一个音乐生成系统,它通过统一的框架支持生成具有表现力的多语言声乐音乐,允许精确到音符级别的调整,并提供将用户自己的声音融入音乐...