GeneMAN是什么?一文让你看懂GeneMAN的技术原理、主要功能、应用场景

来源:卓商AI
发布时间:2025-04-05

GeneMAN概述简介

GeneMAN是上海AI实验室、北京大学、南洋理工大学、上海交通大学联合推出的3D人形创建框架,能从单张图片中创建出高保真度的3D人体模型。框架不依赖于参数化人体模型,是用多源高质量人类数据集,包括3D扫描、多视角视频、单张照片和合成数据训练人类特定的2D和3D先验模型。GeneMAN基于几何初始化、雕刻流程和多空间纹理细化技术,实现从自然环境数据图像中提取高质量3D人体模型的目标,不论图像中的人体比例、姿势或服装如何变化。

GeneMAN的功能特色

处理多样化的人体比例:无论图片中的人物是全身、半身还是特写,GeneMAN都能重建出相应的3D模型。

适应不同的服装和姿势:GeneMAN能处理各种服装和人体姿势,包括自然姿势和常见物品。

处理野外图像:GeneMAN特别擅长处理自然环境下的图像,即所谓的“野外数据”,这些图像可能包含多种复杂背景和光照条件。

生成高质量的纹理:基于多空间纹理细化流程,GeneMAN能生成细节丰富、与输入图像一致的3D人体纹理。

GeneMAN的技术原理

2D和3D人类先验模型训练:

文本到图像扩散模型:训练一个人类特定的文本到图像扩散模型,用在生成2D人类先验。

视图条件扩散模型:训练一个视图条件扩散模型,用在生成3D人类先验。

几何初始化与雕刻流程:

无模板几何初始化:用NeRF(神经辐射场)技术初始化一个无模板的3D几何形状。

结合先验与损失:结合GeneMAN的2D和3D先验及结构化差异损失(SDS损失)引导几何初始化。

参考损失:用参考损失确保与输入图像的对齐。

高分辨率细化:将NeRF转换为DMTet(深度多面体网格)进行高分辨率的几何细化,由预训练的人类特定的法线和深度适应扩散模型引导。

多空间纹理细化流程:

粗纹理生成:用多视图纹理技术生成粗略的纹理。

潜在空间细化:在潜在空间中迭代细化纹理。

像素空间细化:基于优化UV图在像素空间中获得详细纹理,用基于2D先验的ControlNet进行优化。

GeneMAN项目介绍

项目官网:roooooz.github.io/GeneMAN

GitHub仓库:https://github.com/roooooz/GeneMAN(即将开源)

arXiv技术论文:https://arxiv.org/pdf/2411.18624

GeneMAN能做什么?

虚拟试衣:用户上传自己的全身照片,生成3D模型,用于在线试穿服装,提供更真实的试衣体验。

游戏和娱乐:在游戏和电影制作中,创建或修改角色模型,提供更个性化和逼真的角色设计。

增强现实(AR)和虚拟现实(VR):在AR和VR应用中,生成用户的3D化身,提高沉浸感和交互性。

时尚设计:设计师快速将设计草图转换成3D模型,加速设计流程。

健身和健康管理:基于分析用户的3D模型,提供个性化的健身指导和健康建议。

© 版权声明:本站所有原创文章版权均归卓商AI工具集及原创作者所有,未经允许任何个人、媒体、网站不得转载或以其他方式抄袭本站任何文章。
卓商AI
卓商AI

AI爱好者的一站式人工智能AI工具箱,累计收录全球10,000⁺好用的AI工具软件和网站,方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用,力争做全球排名前三的AI网址导航网站,欢迎您成为我们的一员。

猜你喜欢
  • BotStacks
    BotStacks BotStacks是一个聊天解决方案,通过使用机器人堆栈和多功能聊天解决方案,为对话增添动力,无缝设计、构建和部署AI助手。它提供了无代码机器人构建、...
  • PIKE-RAG
    PIKE-RAG PIKE-RAG 是微软开发的一种领域知识和推理增强生成模型,旨在通过知识提取、存储和推理逻辑增强大型语言模型(LLM)的能力。该模型通过多模块设计,...
  • Onnix AI
    Onnix AI Onnix AI是一款为银行业团队提供协助的个性化AI工具。它可以快速提供准确的答案和可交付成果,节省团队的时间。Onnix AI将人工智能和强大的数...
  • chatgpt search planner
    chatgpt search planner 使用ChatGPT搜索计划者优化您的ChatGPT搜索。通过在一个方便的地方组织所有搜索,提示和资源来简化工作流程。保持游戏的顶部,永远不要错过宝贵的...
  • startuptools ai
    startuptools ai startuptools.ai是革命性的AI驱动商业计划生成器。只有1或2个简单的句子,您就可以创建一个全面的启动计划。 AI生成器有助于简化构思以快...
  • Wing Assistant
    Wing Assistant Wing助手是为企业、初创公司和高管提供的全球最好的专业虚拟助手解决方案。它可以完成各种任务,包括日常事务、会议安排、邮件管理、旅行预订等。Wing助...
  • smart ads
    smart ads 通过Smart Ads来增加业务的在线形象,这是视觉上引人注目和成功横幅广告的主要发布者合作伙伴。 Smart Ads AI Creator专门针对中...
  • Sembly Team
    Sembly Team Sembly Team 是一款在线协作工具,旨在帮助团队提高效率和协作能力。它提供了实时协作、任务管理、文档分享等功能,让团队成员可以在一个平台上共享...