c++

技术知识一文说清NVIDIAOmn

发布时间:2022/5/19 20:58:21   点击数:
作为一部年10月入选的优秀国产纪录片,《飞向月球第二季》带领观众们体验了一次“往返月球的旅行”。

(应用Omniverse制作《飞向月球2》花絮)

这是一部完全使用NVIDIAOmniverse制作而成的纪录片,该片详细介绍了中国航天探月工程的“绕、落、回”,科学演示嫦娥五号月球探测器的探测过程。然而,设计一个真实的月球表面需要多个团队在整个开发和制作周期中开展大量合作。为了能够处理构建宇宙场景所需的大量数据和资产,并制作出细致、震撼的高清影像,团队使用了实时模拟协作平台NVIDIAOmniverse。

一、什么是Omniverse?

Omniverse被称作为元宇宙而生,是由NVIDIA开发,专为虚拟协作和实时逼真模拟打造的开放式平台。借助Omniverse,创作者、工程师和研究人员可以在一个互联的虚拟世界中进行协作。

Omniverse平台主要由5大核心组件组成:Connect(连接器)、Nucleus(数据库和协作引擎)、Kit(工具包)、Simulation(仿真)和RTXRenderer(RTX渲染器)。

图1.5大核心组件1.OmniverseConnect:提供一整套的SDK与插件,实现其他第三方3D软件与Nucleus的连接;2.OmniverseNucleus:Omniverse平台的核心,主要提供一些最基本的通信和存储服务,比如允许客户端的应用程序和渲染器与微服务共享,实现客户端应用软件的互联互通,通过仅传输更改内容的方式高效管理场景更新;3.OmniverseKit:Kit是一个用于构建原生Omniverse应用和微服务的工具包,基于基础框架而构建,该框架可通过一组轻量级扩展程序提供各类功能。这些独立扩展程序是用Python或C++语言编写的插件;4.Simulation:Omniverse中的仿真由英伟达一系列技术作为OmniverseKit的插件或微服务提供。可用于PhysX5、Flow、Blast、可燃流体、烟雾、火灾以及物体断裂和破坏的模拟;5.RTXRenderer:基于NVIDIARTX的高级多GPU渲染器,支持实时光线追踪和路径追踪。

二、平台功能介绍

Omniverse平台的主要功能包括:统一接入、物理级准确的模拟、支持多用户的实时协作设计、工业数字孪生、3D虚拟形象的可视化处理。1.Omniverse是统一的接入平台,能实现目前主流3D软件与NVIDIA技术能力的整合以及互联互通。图2.平台对各类主流3D软件与NVIDIA技术能力进行整合2.Omniverse能实现物理级准确的模拟,可轻松模拟出流体、火焰燃烧、人体运动、物体碰撞、断裂等超逼真的物理属性;图3.平台能模拟出火焰、水流、碰撞等效果3.Omniverse支持多用户的实时协作设计、跨应用的无缝同步文件修改,实现设计的高效迭代更新并保障了整体流程的完整性;图4.平台可实现跨区域、跨应用的实施协同4.Omniverse能实现工业数字孪生。工程师可以在Omniverse上,构建大量的合成数据,用于训练机器人的深度学习感知模型、汽车的自动驾驶AI训练、制造业工厂的设计与模拟;图5.平台能实现模拟驾驶、工业机器人等模拟训练5.Omniverse可将3D虚拟形象进行可视化处理,加上先进的自然语言理解,可以提供虚拟人物形象的实时对话与翻译、文字转语音的能力。图6.平台提供虚拟人物对话与翻译、文字转语音能力

三、平台架构原理介绍

NVIDIARTX技术是NVIDIA在计算机图形领域的重要先进技术之一,可引领新一代应用以超快的速度模拟物理世界,主要由4大架构组成:光线追踪、人工智能、光栅化和模拟。1.光线追踪:RTX技术利用优化的光线追踪API,可将实时电影级渲染效果变为现实;2.人工智能:RTX技术为可视化计算带来了AI功能,使开发人员能够创建AI增强型应用,为终端用户带来出色的工作流程加速效果;3.光栅化:将几何数据经过一系列变换后最终转换为像素,从而呈现在显示设备上的过程;4.模拟:逼真的视觉效果不仅包括物体呈现的外观,还包括其行为方式。借助强大的CUDA?Core和API,RTX技术能够在游戏、虚拟环境以及特效环境中,对真实物体的行为精确建模。USD是Pixar(皮克斯)发明的一种开源文件格式,使用USD创建的场景要比起其他的场景更小、更快,而Omniverse则是第一个完全围绕USD构建的应用程序。

Omniverse的USD不仅仅只是导入和导出的一种格式,你在Omniverse里面实际操作、制作的文件就是USD本身。通过Create打开一个3D场景就会发现右边列出了所有光线追踪效果,这些都是通过USD表达的,用户修改这些值,就可以实时改变场景的光线效果。

四、平台可解决的痛点问题

Omniverse平台可解决数据协同、团队协作、数据加载时间过长、数据资产安全性等痛点问题。1.数据协同:市面上已有3dsMax、Maya、Unity等众多3D协同软件,但数据在这些软件中无法互通同步,而Omniverse选择拥抱USD这样开源的轻量级文件格式,则可以很好地解决这一问题;2.团队协作:Omniverse提供的解决方案可以协同世界各地的员工,呈现所见即所得的渲染效果,并结合推流实现即刻观看。这让很多因疫情原因无法面对面工作的团队,能够看到即时效果,并根据即时效果进行反馈和修改;3.数据加载时间过长:由于Omniverse拥抱USD这样的轻量级文件格式,在打开大场景时具有天然的优势,避免很多软件在打开耦合性很高的数据时加载时间过长的问题;

4.数据资产的安全性:以往几个不同的数据资产需要导入、导出,并利用互联网或移动媒介等载体进行传输时,就会面临着数字资产的加密问题。而Omniverse平台可以实现无论是公有云、私有云还是混合云,都能够在同一个平台上工作和存取,这使得数字资产的管控变得容易,且可以引入很多端到端加密机制。

五、平台应用生态场景

Omniverse平台除了实现当前主流3D软件的接入以外,还打造了一套自己的应用生态。

图7.Omniverse平台应用生态场景

六、平台具体应用剖析

Omniverse平台提供Audio2Face、DriveSim等应用工具,下面我们将进行具体介绍。1.Audio2Face①基本原理Audio2Face预装了3D角色模型,用户上传的音频会被输入到预先训练的神经网络,输出会生成角色的3D顶点网格,用于实时创建面部动画。图8.用户上传音频,创建面部动画②特性音频输入:只需录制语音音轨,然后输入到应用中,即可看到您的逼真3D面孔。您甚至可以通过麦克风实时生成面部动画;角色转换:使用Audio2Face,可以瞬间切换目标模型的面孔;多个实例:可以轻松运行多个Audio2Face实例,并可以任意指定场景中的角色数量,所有角色均通过相同或不同的音轨制成动画;数据转换:支持BlendShape转换,还支持Blendweight导出;样例演示:

转载请注明:http://www.xienasc.com/jbtly/24306.html
------分隔线----------------------------