原标题:VR/AR白皮书2021出炉:产业起飞阶段来临,五横两纵技术发力
现在,“新基建”已成为拉动投资、促进消费、稳定就业和提升综合实力的重要抓手,如何加载高质量的业务生态成为释放新基建发展动能的关键。当前,以虚拟现实VR(包含增强现实AR)为代表的未来视频,正在成为工业数字孪生、沉浸式教学等传统行业转型升级与长短视频领域的重点发展路径。在今年新冠疫情的影响下,视频社交、视频会展等虚拟现实创新应用市场逆势增长,表现出对新型基础设施更加迫切的需求,并对通信基础设施的带宽、时延等网络传输能力、对算力基础设施的计算、存储能力提出了不断进阶支撑要求。
继2016年虚拟现实产业元年、2018年云VR产业元年、2019年5G云VR产业元年过后,2020-2021年将成为虚拟现实驶入产业发展快车道的关键发力时窗。
本期的智能内参,我们推荐中国信通院的报告《虚拟(增强)现实白皮书2021》,从VR(AR)的关键技术趋势、产业发展趋势和创新应用分析三大方面还原VR产业的最新发展情况。
01.关键技术:“五横两纵”
总体来说,虚拟(增强)现实趋势包含“五横两纵”的技术框架与发展路径。其中,“五横”是指近眼显示、感知交互、网络传输、渲染计算与内容制作,“两纵”是指VR与AR,各技术点发展成熟度具体如下。
近眼显示方面,快速响应液晶屏、折反式(Birdbath)已规模量产,Micro-LED与衍射光波导成为重点探索方向。
渲染计算方面,云渲染、人工智能与注视点技术等进一步优化渲染质量与效率间的平衡。
内容制作方面,WebXR、OS、OpenXR等支撑工具稳健发展,六自由度视频摄制技术、虚拟化身技术等前瞻方向进一步提升虚拟现实体验的社交性、沉浸感与个性化。
感知交互方面,内向外追踪技术已全面成熟,手势追踪、眼动追踪、沉浸声场等技术使能自然化、情景化与智能化的技术发展方向。
网络传输方面,5G+F5G构筑虚拟现实双千兆网络基础设施支撑,传输网络不断地探索传输推流、编解码、最低时延路径、高带宽低时延、虚拟现实业务AI识别等新兴技术路径。
▲虚拟现实关键技术体系(2020)
1、近眼显示:Micro-LED与衍射光波导成为当前探索热点
近眼显示受限于核心光学器件与新型显示的发展,整体发展相对迟缓。2020年随着市场需求日渐清晰,业界对近眼显示领域表现出更高的期待。
在显示领域,快速响应液晶与硅基OLED(OLEDoS)作为主流的显示技术,处于实质规模量产阶段,微型发光二极管(Micro-LED)有望迅速发展。快速响应液晶被广泛用于2020年发布的新一代代表性VR终端,如FacebookQuest2即采用一块改良后的Fast-LCD替换了上代产品中的两块AMOLED。
当前快速响应液晶屏成为多数VR终端的常用选择,主要表现为以超高清(如5.5英寸3840*2160分辨率)、轻薄(2.1寸1600*1600)、成本(5.5寸2160*1440)为设计导向的三类技术规格;
硅基液晶(LCoS)作为AR终端常用的显示技术得到了一定发展与认可,但其较高功耗与较低对比度的不足限制了该技术的发展地位;
Micro-LED成为继LCD和OLED后业界期待的下一代显示技术,广阔市场前景致使诸多行业巨头加速战略布局,苹果(LuxVue)、脸书(InfiniLED)、谷歌(Glo、MojoVision)、英特尔(Aledia)等纷纷投资或收购该领域初创公司,业界正在规划的规格以1.3寸4K*4K为主。
在光学领域,作为下一代人机交互平台,虚拟现实呼唤以人为中心的光学架构,视觉质量、眼动框范围、体积重量、视场角、光学效率与量产成本间的权衡取舍、优化组合成为驱动技术创新的主要动因。
超薄VR(Pancake)利用半透半反偏振膜的双透镜系统折叠光学路径,将头显重量降至200g以内,体积缩减至传统终端的三分之一,缓解了VR头显尺寸重量与便携性的痛点,且可保证较好的显示效果及更大的视场角;
折反式(Birdbath)得益于设计难度与量产成本的优势,触发了消费级AR终端的规模上量,基于这一传统技术路径的光学模组体积较大厚度减薄困难,眼动框范围受限,其光学系统须搭配算法缓解畸变,且光效难以高于15%,效果和成本较大程度受限于微显示器的发展,高亮的OLEDoS成为最优搭配,目前我国已有厂商采用该技术大量出货;
自由曲面在早期得到业界认可,其显示效果、光效表现较好,但量产加工难以保持较高精度,局部精度下降可导致图像局部扭曲和分辨率降低,存在产品一致性难题。此外,通过厚棱镜观察真实世界会出现一定程度扭曲和水波纹样畸变,这些因素影响了自由曲面的发展潜力;
光波导在AR领域的技术发展前景明确,可进一步分为阵列和衍射光波导两大技术路线。相比其他光学架构,光波导外观形态趋近日常眼镜,且通过增大眼动框范围更易适配不同脸型用户,有助于推动消费级AR产品显著升级。
其中,阵列光波导采用传统光学冷加工技术,连续多层半透半反镜面阵列镀膜、贴合、切割等复杂多步工艺对产品良率提升提出较大挑战,量产成本难以降低。此外,基于阵列光波导的二维扩瞳方案对加工工艺的挑战极大,短期难以商用;
衍射光波导依循光学元件从毫米级到微纳级、从立体转向平面的技术趋势,采用平面的衍射光栅取代传统的光学结构。衍射光波导利用经过两次两个方向的扩瞳光栅或二维光栅以实现二维扩瞳,从而给以人为中心的光学设计与用户体验优化留有更大的容差空间。衍射光波导理论上具有较高的可加工性,成本可控,批量生产难度显著低于阵列光波导,现已成为国内外标杆企业研发创新的活力区。此外,为了改善色散问题,针对FOV和动眼框内的“彩虹效应”,如何用一层光栅作用于RGB三色且实现最大的FOV成为重要的技术挑战。
目前,衍射光波导根据光耦合器的差异可分为利用纳米压印技术制造的表面浮雕光栅波导(SurfaceReliefGrating,SRG)及基于全息干涉技术制造的全息体光栅波导(VolumetricHolographicGrating,VHG)等。其中,微软、MagicLeap等多家AR明星企业的规模量产证明了SRG这一技术路线在经济成本上的可行性,当前国内有条件建设该产线的厂商相对有限。全息体光栅由于受到可利用材料的限制,致使其在视场角、光效率、清晰度等方面尚未达到表面浮雕光栅的水平,但因其在量产经济性等方面的发展潜力,业界对此方向的探索未曾停歇;
可变焦显示成为当前解决辐辏调节冲突(VergenceAccommodationConflict,VAC)的重要技术,继2018年脸书发布基于可变焦显示的第一代原型机HalfDome后,于2020年开始了第三代原型机实验室外场景环境下的集成验证,HalfDome3通过电子变焦取代了此前的移动式机械变焦,极大程度的优化了头显体积重量与系统可靠性,有望开启可变焦显示技术产业化的量产之路;全息显示通过全息方式显示多个焦面,可作为未来解决辐辏调节冲突的技术路径。目前,由于光相位调制器(SLM)价格昂贵、全息图生成算法尚不完善、所须计算量大且难以实时完成等因素致使该技术短期内难以推广应用。
▲虚拟现实近眼显示部分代表性技术路线
2、渲染计算:云渲染、人工智能与注视点技术引领VR渲染2.0
虚拟现实渲染领域的主要技术挑战在于面向传统游戏的上述权衡范式难以直接套用于虚拟现实应用,表现为相比游戏画面的主流渲染要求(如FHD分辨率所须每秒渲染六千万像素且不高于150毫秒的用户交互时延),虚拟现实渲染负载与MTP时延须提升十倍量级才可达到初级沉浸的入门体验。
另外,在跨越了沉浸体验的初始门槛后,渲染质量与效率间的平衡优化成为时下驱动虚拟现实渲染技术新一轮发展的核心动因,即用户需求的持续进阶放大了渲染画质、速度、成本、带宽等多目标规划的求解难度。在智能云控与以人为本的创新架构下,云渲染、人工智能与注视点技术触发虚拟现实渲染计算2.0开启。
云游戏平台厂商认为网络状况难以预测,因而向网络中“倾泻”数据,最终造成网络资源浪费,客户端接收到无序数据,致使端侧须为此付出额外的计算成本。事实上,本地渲染与云渲染并非处于相互独立的发展轨道,亦非非此即彼的替代关系,相比单机版渲染依赖终端完成,云渲染并非完全依靠云侧进行,而是聚焦云网边端协同分工,旨在实现“不要让终端补缺云网协同落下的课”。当前,针对时延、带宽、丢包、抖动等技术挑战,业界通过调节CPU与GPU协同编码、前向纠错率、缓冲区大小等方式实现QoS保障。
需要指出的是,比之时延因素本身,网络、算力等导致的时延不确定性对虚拟现实云渲染用户体验影响尤甚,不同于传输环节的丢帧,因时延不确定性产生的弃帧主要是由帧未能及时到达,致使在终端显示环节丢弃(不显示)某些帧,在虚拟现实用户感受上表现为画面卡顿、跳跃与拖尾,有测试表明,对于1080P@144帧的云渲染体验,7ms网络抖动是大众用户的感知边界。除流媒体QoS视角外,ATW/ASW成为虚拟现实渲染标配的“弃帧保险”,由于ATW导致视觉黑边,可通过扩大渲染面积予以解决。此外,在虚拟现实体验过程中用户即便没有位移,眼睛亦会发生位置改变,因而引入ASW,前者适用于远景静物,后者侧重近景动画。
▲基于时延不确定性的云渲染情况示意
注视点技术入选业界标配,基于眼球追踪的注视点渲染与注视点光学成为热点技术架构。由于提供高分辨率与色彩视觉的视锥细胞集中分布在人眼最中心区域(Fovea),眼球中央向外的区域视觉感知加速模糊(30°内每远离2.5°视觉分辨率降低一半),业界据此提出注视点渲染技术,通过对视场角内各部分画面进行差异化渲染,显著节省算力开销,据VRPC统计,注视点渲染已成为2018年虚拟现实渲染领域专利数量最为富集的细分技术。
2020年10月脸书发售第二代VR一体机Quest2,新增动态固定注视点功能(DynamicFixedFoveatedRendering,DFFR),系统可根据GPU帧率高低自动决定是否触发固定注视点渲染,内容开发者无须延续OculusQuest/Go平台上手动配置FFR的经历,也无须为Quest2DFFR修改既有内容应用。鉴于眼球运动致使注视点区域随之改变,基于眼球追踪的可变注视点渲染成为业界热点,在日常扫视(Saccade)过程中,眼球运动速度高达每秒900度,因而精准化的眼球追踪成为了技术挑战。
▲各类注视点技术基本情况
人工智能将成为虚拟现实渲染质量与效能的倍增器与调和剂。当前,业界日益聚焦深度学习渲染这一热点领域,以期针对多样化的业务场景,解锁平衡质量、速度、能耗、带宽、成本等多维渲染指标间的技术定式。
在渲染效能方面,为在移动终端平台加载高质量的虚拟现实沉浸体验,业界结合深度学习与人眼注视点特性,积极探索在不影响画质感知的情况下,如何进一步优化渲染效能的技术路径。脸书提出一种基于AI的注视点渲染系统DeepFovea,利用生成对抗网络(GAN)的新近研究进展,通过馈送数百万个真实视频片段模拟注视点外围像素密度降低来训练DeepFovea网络,GAN的设计有助于神经网络根据训练视频的统计信息来补缺细节,进而得到可基于稀疏输入生成自然视频片段的渲染系统。测试显示该方案可将渲染计算负载降低约十倍,且能够管理外围视场的闪烁、锯齿和其他视频伪影。
3、内容制作:交互性体验和支撑工具快速发展
在弱交互领域,虚拟现实视频的社交性、沉浸感与个性化特质日益凸显,强弱交互内容界线趋于模糊。由于体育赛事、综艺节目、新闻报道与教育培训等直播事件受众群体明确,商业落地相对成熟,VR直播成为丰富虚拟现实内容的利器,可较大程度上缓解目前高品质VR内容匮乏、“有车没油”的问题。
对于手机式、一体单目/多目、阵列式、光场式等内容采集设备的技术选型,VR直播呈现两极化趋势,即满足专业生产内容(PGC)高质量、多格式与用户生成内容(UGC)操作便捷、成本可控的发展要求。此外,作为VR直播相比传统直播独有的关键技术,图像拼接可基于特征、光流等多种不同的处理域进行拼接,其中,图像配准涉及特征空间、相似性度量、搜索空间和搜索策略的选择,图像融合须考虑拼接处过渡自然和整体画面协调,因摄像机和光照强度的差异,图像间亮度和色度不统一,缝合后的图像会出现明暗交替或有明显接缝的问题,因而需要进行亮度和色度的均衡处理。
当前,VR直播可分为表演区与观众区,在观众区引入以用户为对象的虚拟化身,有助于进一步增强视频社交性。同时,通过Unity、Unreal等开发引擎进行虚拟现实拍摄与制作,而后传至头显终端,可避免基于用户交互信息的本地渲染负载。未来,随着VR直播的常态化,制作上云将成为简化虚拟现实内容摄制流程的关键技术。
在强交互领域,VR社交成为游戏以外的战略高地,虚拟化身正在拉开虚拟现实社交大幕。虚拟化身技术由来已久,在传统游戏中用户可见能够控制的整体人物形象(第三人称)或看到模拟手和身体等部分形象(第一人称射击游戏),受限于2D视频、狭窄视野及有限追踪感知能力,虚拟化身难以被视为用户本人。
相比之下,VR用户对虚拟化身的感知与控制构成了不再脱钩的交互闭环,即追踪采集的用户数据被实时投射于虚拟化身外观及行为表现。得益于3D沉浸视频、超大视角及进阶追踪能力,位置、外貌、注意力、姿态、情绪等日益多元精细的身态语汇激活了虚拟化身潜藏的社交表现力。通过营造多人共享的临场感,VR社交进一步放大了虚拟现实强交互业务的互动程度,并结合日常交流所须的适宜间距、注视转头、手势表情等潜藏的通识准则来优化虚拟化身。
此外,一味追求照片画质级的虚拟化身存在“恐怖谷”效应,过高拟真度的外貌表现大幅拉升了用户对虚拟化身行为举止拟人化的心理预期,从而降低了虚拟化身总体可信性。如何持续提高虚拟化身真实感,同时精准调和外貌与行为拟真度间的配伍关系,成为VR社交虚拟化身的主要技术挑战与发展方向。
由于VR社交领域存在诸如多达数百人同时加载虚拟化身等性能挑战,针对不同的场景功能,可通过降低Drawcall频次、设置渲染优先级、匹配差异化的顶点数目与纹理精度等技术实践,梯度调整虚拟化身视觉质量,优化性能表现。
在技术选型上,基于口、眼、表情、上肢拟真等的虚拟化身技术初步成熟,现已开始用于VR社交应用。
2020年7月W3C发布新版WebXR规范草案,与此前WebVR相比,WebXR新增了对6DoF追踪定位、交互外设与AR应用的支持,A-Frame、React360、Three.js、Babylon.js等网页开发框架均已支持。
当前,内容不足成为虚拟现实用户面临的主要体验痛点,内容生态发展成效被碎片化的软硬件平台分化稀释,2019年7月Khronos对此发布了OpenXR1.0,旨在实现内容应用无须修改移植即可跨头显平台运行。同时,OpenXR强化了对WebXR网页开发框架的支撑,深化了对新一代3D图形应用程序接口Vulkan的协同,适配了手势、眼动追踪等多元化交互方式,丰富了5G边缘计算等应用场景。
在操作系统方面,实时性、多任务、感知交互与端云协同成为当前发展焦点。手机OS对于虚拟现实用户姿态变化难以做出实时性响应,系统设计存在诸多缓存逻辑,虚拟现实OS更像稳态系统,不论用户主动操作与否,从姿态到渲染保持稳定运行,MTP时延约束成为实时性挑战。由于虚拟现实空间可极大延展,支持用户同时可见更加丰富信息,操作系统多任务特性成为必然需求。在三维系统中的多任务化须实现系统多应用的三维化合成,在虚拟现实空间中布置各应用的运行位置,并实现3D交互,如微软Hololens、FacebookQuest等代表性终端对操作系统三维化多任务运行的支持。
2020年虚拟现实操作系统持续演进,VR、AROS在感知交互方面日渐趋同,基于计算机视觉的头手成为发展重点,脸书发布OculusQuest系列验证了计算机视觉实现的可行性和准确性,须挂载4颗以上实时性要求较高的摄像头,操作系统亦须适配调优。此外,对于云化虚拟现实业务需求,如何同步终端和云端数据成为操作系统技术演进焦点,如微软推出Hololens云方案,用户可在云端记录三维地图扫描信息。
开发引擎方面,基于OpenGLES底层框架,面向移动设备的低功耗、可视化开发引擎助力VR应用开发效率提升。对于移动虚拟现实设备,如何平衡性能和功耗成为选择虚拟现实开发引擎的关键因素。Unity、Unreal借助于其在游戏领域的优势积累,目前作为虚拟现实强交互应用的主要开发引擎。近年来随着国内虚拟现实产业的快速发展,NibiruStudio等国产虚拟现实开发引擎持续完善。
4、感知交互:自然化、情景化与智能化为前行之路点亮灯塔
感知交互强调与近眼显示、渲染计算、内容制作、网络传输等关键领域间的技术协同,各大ICT巨头与虚拟现实科技型初创公司对此深度布局,积极投入。当前,追踪定位、沉浸声场、手势追踪、眼球追踪、三维重建、机器视觉、肌电传感、语音识别、气味模拟、虚拟移动、触觉反馈、脑机接口等诸多感知交互技术百花齐放,共存互补,并在各细分场景下呈现相应的比较优势。未来,理想的人机交互可让虚拟现实用户聚焦交互活动本身,而忘记交互界面(手段)的存在,界面愈发“透明”,自然化、情景化与智能化成为感知交互技术发展的主航道。
沉浸声场体验“富矿”尚待挖潜,听音辨位、空间混响、通感移觉等成为发展重点。虚拟现实沉浸体验的进阶提升有赖于对视觉、听觉等多感官通道一致性与关联性的强化。由于周边环境、头耳构型等多重因素会影响双耳听觉闻声辨位,人们通过转头寻视声源,以消除定位判定的模糊性。虚拟现实可结合用户头部追踪特性,解决数字内容长久以来双耳听觉的问题。基于多通道3D全景声场拾音技术(Ambisonics),声音表现可依据用户头动情况进行动态解码,虚拟现实用户即可实现更加精准的听音辨位。
在混响声模拟技术方面,以往开发人员须将混响手工添加至虚拟环境中的各个位置,操作修改繁冗耗时,对算力与内存资源需求较高,且因各声学响应预先计算,仅用于结构保持固定的静态环境。当前,脸书等企业在房间声学上取得了一定成果,混响声可根据环境的几何形状自动精准生成,且符合实时虚拟现实应用严格要求的计算和内存预算,同时实现了随环境空间构型变化的动态混响声模拟,如VR密室等探秘游戏。此外,诸如“风随柳转声皆绿”的通感表达成为了虚拟现实视听关联性发展的特色方向,如《RezInfinite》等VR通感游戏的上市迭代。
Inside-out技术全面成熟,追踪定位将呈现集视觉相机、IMU惯性器件、深度相机、事件相机等多传感融合的发展趋势。追踪定位作为感知交互领域的基础能力,业界投入大,且日趋成熟。在VR领域,存在outside-in和inside-out两条技术路线。通过超声、激光、电磁、惯导等多种传感器融合定位较单一惯性和光学定位减少了计算资源消耗,在一定程度上优化了功耗与鲁棒性表现。目前,基于视觉+IMU的inside-out追踪定位技术实现产品化,开始大量应用于头显终端,代表产品有OculusQuest1/2、HTCViveFocus等。
此外,2019年脸书、HTC发布的新一代主机式RiftS、ViveCosmos,标志着inside-out的追踪定位方式与此前Rift的outside-in追踪效果足够接近,这种省去基站外设的追踪方式符合大众市场发展趋势,未来将持续优化。在AR领域,inside-out成为唯一主流技术路线,基于终端平台的差异,视频投射式AR(videosee-through)以苹果ARKit、谷歌ARCore、华为AREngine以及商汤SensAR为代表的ARSDK普遍遵循单目视觉+IMU融合定位的技术路线,在2019年对其跟踪精度和鲁棒性进行了进一步提升,毫米级别的定位精度使得AR尺子等空间测距等应用大量出现。
光学投射式AR(opticalsee-through)以微软Hololen2、MagicLeapOne为代表的AR眼镜普遍遵循双目/多目视觉+IMU融合的技术路线,可提供毫米级别精准度的定位输出和世界级规模的6DoF追踪定位,其中SLAM算法的稳定性主要受光线与环境复杂程度影响。
由于室外光线会影响到摄像头的使用,Oculus在黑暗条件下难以提取环境信息,从而影响SLAM结果。Hololens2采用TOF提供主动光辅助定位,在一定程度上缓解了该问题。环境复杂度表现为AR眼镜受限于摄像头可实现高精准度获取信息的范围限制,在过于空旷(无参照物)的环境中,难以实现厘米级别定位。此外,随着基于神经拟态视觉传感器(dynamicvisionsensor)的事件型相机技术发展,利用其高帧率、抗光照等特性,追踪定位技术鲁棒性有望进一步提升。
手势追踪初步成熟,“手势追踪+”将成为虚拟现实输入交互新模式。相比其他虚拟现实输入交互方式,手势追踪技术的价值优势在于消减了用户对交互外设的配置操作与购买成本,无须考虑充电配对问题,且手势信息等身态语增强了虚拟现实体验的社交表现力,赋予了内容开发者更大的创作空间。鉴于追踪范围、体积重量、成本功耗、操作部署等方面的优势,基于黑白/RGB摄像头的机器视觉技术路径已成为标记点、3D深度摄像头方案外手势追踪的重点实现方式。当前,手势追踪技术在多维发展方向上初步成熟。
在算法鲁棒性优化方面,通过收集用于深度学习的多类人群手势及环境数据,可探知手部位置及关节指尖等特征点信息,进而结合反向动力学算法构建手部3D模型。在计算及功耗开销控制方面,,通过深度神经网络量化压缩技术,精准可靠的手势追踪算法得以在移动式虚拟现实终端上(一体式、手机伴侣)以较低算力、时延与功耗预算运行。在交互表现性探索方面,由于虚拟现实手势输入发生在3D空间中,照搬手机触屏的2D交互语言将引发时延、遮挡、触觉反馈等诸多输入问题。
时下业界围绕人因工程视角,就输入交互进行创新设计,以“捏”代“按”,可有效节省交互空间,明确交互起止时点,获知输入反馈。除单手追踪外,双手、手与笔、手与键盘、手与控制器等外设配合成为手部交互表现性探索的新方向。
其中,2020年脸书与罗技合作,双方基于实体键盘与双手追踪的交互组合,以期实现虚拟现实无界办公的体验愿景。需要说明的是,发展手势追踪并非旨在取代目前常见的VR控制器,未来虚拟现实手部交互将与VR控制器解绑,即由VR控制器输入向基于手势追踪的裸手输入、裸手+控制器等交互外设协同共存的方向发展。
眼动追踪成为虚拟现实终端的新标配。早期虚拟现实终端(如HTCVive、HololensV1、Meta2等)以6DoF头动追踪技术作为眼动追踪的近似替代,在达成沉浸体验门槛后,日益进阶的用户需求开始对眼动追踪提出了更高要求。眼动追踪主要涵盖注视点追踪、瞳孔位置尺寸追踪、眼睑数据采集、生物识别等,得益于该领域在虚拟现实融合创新与以人为中心研发思路上的技术潜力,眼动追踪日渐成为VR/AR终端的新标配,且应用场景趋于多元。例如,注视点追踪可用于眼控交互、可变注视点渲染与注视点光学、FOV一致性补偿、可变焦显示系统中的辐辏调节冲突控制等任务场景。
眼动追踪技术主要分为基于特征与基于图像的发展路径。两种方案均须红外摄像头与LED完成,前者通过光线在角膜外表面上普尔钦斑(Purkinjeimage)反射以推算瞳孔位置,已成为SMI(苹果)、EyeFluence(谷歌)、HololensV2、MagicLeapOne、七鑫易维、Tobii等代表性产品的技术方案。
当前,眼动追踪技术发展的难点与焦点在于眼动算法如何基于所采集的原始眼动行为来“透视”用户意图。此外,除追踪精度指标外,用户个体与环境差异(眼球角膜、佩戴眼镜、周围光线等)对系统通用性提出了更高要求。时下多数眼动追踪系统须先行完成用户标定校准后方可使用,业界积极尝试在现有眼动系统架构中更多引入深度神经网络等人工智能算法,以期精简用户使用流程,并增强系统通用性。
环境理解与3D重建将成为虚拟现实感知交互领域技术内核之一。在数据采集方面,由于早期发展受到深度图像传感(RGBD)器件功耗和精度的限制,环境重建技术门槛较高,大多基于激光雷达和大功率ToF器件实现,重建过程繁复,且采集设备昂贵。随着OPPO、三星、华为等主流手机厂商旗舰机型上预制深度相机,激光雷达大幅降价,以及微软发布的KinectV4版本可提供720P高精度深度图,较为成熟的产业链供应使得低成本、高速率生成可用于VR/AR的高质量3D模型成为可能,对周边环境和物体的理解和建模逐渐平民化。
基于RGBD相机的动态语义化重建技术逐渐成熟,针对人体形状、运动、材质不易描述等难点,基于参数化人体模型和人体语义分割的语义化分层人体表达、约束及求解方式,在提升人体三维重建精度的同时,实现了人体动态三维信息的多层语义化重建。在数据处理方面,随着AI能力的渗透释放,2019年学界出现较多基于单目RGB进行深度估计、人体建模、环境建模的学术论文,并开始快速进行技术产业化推进。
AI与三维重建技术的融合创新使二维到三维图像转化以及三维场景理解成为可能。通过海量真实三维重建数据的训练,能够实现单目深度图像估算,通过二维照片估算出真实空间的三维深度数据,从而生成准确的3D模型。借助点云金字塔模型提取出三维点云在多个尺度上的局部特征,再通过图模型的三维点云语义分割和特征聚合,可完成三维点云体素级别的分类并最终实现基于三维点云数据的场景理解。
5、网络传输:5G+F5G构筑虚拟现实双千兆网络基础设施支撑
2019年5月工信部、国资委共同印发专项行动,确定开展“双G双提”,推动固定宽带和移动宽带双双迈入千兆(G比特)时代,明确提出2019年我国千兆宽带发展的目标,2020年9月,国务院常务会议确定加快新型消费基础设施建设,第五代固定网络(F5G)千兆宽带与5G网络共同构成双千兆接入网络联接,助力千兆城市建设。
当前,作为影响虚拟现实业务体验的关键因素,传输网络不断地探索传输推流、编解码、最低时延路径、高带宽低时延、虚拟现实业务AI识别等新的技术路径,旨在实现无卡顿、无花屏、黑边面积小、高低清画质切换无感知等用户体验,让产业有评估业务质量的技术和方法,加速虚拟现实的规模化发展。
边缘计算赋能双G云化虚拟现实提档升级。多接入边缘计算(MEC)将密集型计算任务迁移到附近的网络边缘,降低核心网和传输网的拥塞与负担,减缓网络带宽压力,提高万物互联时代数据处理效率,能够快速响应用户请求并提升服务质量。同时,通过网络能力开放,应用可实时调用访问网络信息,有助于应用体验的提升。MEC在组网上与传统网络的本质变化是控制面与用户面的分离,一般控制面集中部署在云端,用户面根据不同的业务需求下沉到接入侧或区域汇聚侧。
用户面下沉的同时,根据业务具体可将云服务环境、计算、存储、网络、加速等资源部署随网络延伸到边缘侧,实现各类应用和网络更紧密的结合,用户也可获取更为丰富的网络资源和业务服务。针对虚拟现实业务,标准组织ETSI于2014年底成立了ISGMEC,Phase1和Phase2标准已发布场景、需求、架构和开放API等,虚拟现实作为七大场景之一,即边缘应用快速处理用户位置和摄像头图像,给用户提供实时辅助信息。其中,MEC的APP和3GPPR14/R15的边缘DN实现有机融合,UPF作为MEC的用户面,NEF作为MECAPI能力开放提供者。
由于虚拟现实编码率高、交互性强,在4G网络和百兆以下家宽网络部署中,仅可满足2K业务,尚难以满足4K/8K虚拟现实业务的规模部署,故5G/MEC的上行150Mbps大带宽以及网络时延小于20ms低时延能力可有效满足虚拟现实进阶体验。当前,云化虚拟现实业务基于MEC下沉部署,是优化网络传输效率,提升体验保证的重要途径。
千兆光网+云VR将成为F5G时代的典型特征与重点应用的结合。F5G重点聚焦于全光联接、增强型固定宽带和可保障的极致体验三大业务场景,以10GPON、Wi-Fi6、200G/400G、NGOTN和OXC等技术为代表,具有大带宽、低时延、能力开放、高稳定全光联接特性。为满足多路用户并发诉求,10GPON是虚拟现实业务承载的必然选择。
此外,业界在大力推进光纤入户(FTTH/FTTO)的同时,进一步延伸光纤网络部署,推动对家庭、企业的网络升级改造,打通光纤网络“最后一米”接入,实施“光纤到房间FTTR(FibertotheRoom)”、“光纤到终端”,以期配合Wi-Fi6技术保障每个房间均可实现高质量的虚拟现实体验,并解决云VR高密接入和多机位直播场景下的网络难题。
IP架构简化、全光网络、端网协同等成为虚拟现实承载网络技术的发展趋势。IP网络架构扁平化和网络切片有助于提升承载网的传输效率,提供差异化的体验保证。由于虚拟现实对带宽、时延、丢包率有较高要求,当前传统高汇聚、高收敛承载网络面临效率低、拥塞概率大、时延长、相对丢包多等问题。基于上述原因,首先需要对传统网络的层次和网络结构进行简化,消除LSW汇聚层和城域汇聚层,BNG向上直连CR,OLT直通BNG,提高承载网传输效率。
信道子接口和FlexE等网络切片技术可在同一物理端口上实现不同等级业务间的隔离,为云化虚拟现实业务提供带宽和时延保证。随着IPV6技术的推进,业界将逐步从IPv4扩展到IPv4/v6双栈,直至切换为IPv6网络,从而减少网络中IP地址NAT转换,进一步简化网络结构。基于全光网的E2E网络切片架构有助于提供确定性低时延和大带宽保证。
由于IP网络的带宽是多业务共享,在流量拥塞的情况下难以保证时延敏感业务。光通信技术具有容量大,确定性时延、功耗低等特点。随着虚拟现实网联云控技术路径的发展,数据中心之间的骨干网络可构筑立体化的智能光网络,实现DC之间的一跳直达。OTN设备逐步下沉到CO机房,在城域网络中区分业务,为高品质业务进行高优先级质量保障,提供一跳入云的能力。
OLT设备可以连接OTN或者BRAS,是业务流走向光网络还是IP网络的选择节点,为满足多种业务不同的服务等级诉求,OLT须支持网络切片功能,即在同一个物理端口上划分出可保证服务等级的切片。
端网协同业务识别技术可将运营商虚拟现实业务从众多业务流中精准识别,并进行优先保障。考虑到虚拟现实CDN和云渲染边缘节点众多,且地址分散,在网络设备上静态预配置服务器地址段进行识别的传统方法,在规模较大的家庭网络设备等方面实际执行存在困难。
为应对上述问题,可在终端与家庭网关设备等边缘网络节点间增加数据通信接口,以便获得访问服务器地址、业务类型、操作类型、网络需求等业务信息准确及时的通报,以及终端侧的业务体验、流传输与网络侧空口传输指标等的数据共享。
▲全光网络组网结构示意
精细化运维技术成为云化虚拟现实业务质量的重要保障。云化虚拟现实运维基于产业发展和实现难度可分为手动、自动和智能运维层次。手动运维阶段业务出现卡顿或者闪断时,通常通过Ping的方式进行故障定界和定位,效率比较低,很难定位出是终端、网络还是云平台出现问题。
随着用户规模发展,迫切需要更有效的自动化运维手段。结合业务体验评估体系的构建,可通过工具进行精细化运维,例如通过工具采集业务指标,进行用户质差分析。支持定界指标采集,通过探针采集云渲染流化时延、终端处理时延、网络RTT时延,进行端管云三段定界。
02.产业发展趋势
1、终端出货量与市场规模稳步增长
虚拟现实终端出货量稳步增长,AR与一体式增速显著,不同终端形态间的融通性增强。受新冠疫情及宏观经济形势影响,据IDC统计2020年全球虚拟现实终端出货量约为630万台,VR、AR终端出货量占比分别90%、10%,预计2024年终端出货量超7500万台,其中AR占比升至55%,2020-2024五年期间虚拟现实出货量增速约为86%,其中VR、AR增速分别为56%、188%,预计2023年AR终端出货量有望超越VR。
比之2018-2020年相对平缓的终端出货量,随着FacebookQuest2、微软Hololens2等标杆VR/AR终端迭代发售以及电信运营商虚拟现实终端的发展推广,2021年有望成为虚拟现实终端规模上量、显著增长的关键年份,VR/AR终端平均售价将从当前2500/9700元人民币进一步下降。此外,华为VRGlass手机伴侣、PicoNeo2等一体式头显终端均可通过串流功能而不再受制于移动平台的功耗预算与渲染算力,跨终端形态的使用融通性显著提高,一体式终端出货量份额预计将从2020年51%进一步升至2024年64%。
▲全球虚拟现实终端出货量及结构占比
全球虚拟现实市场规模接近千亿,AR与内容应用成为首要增长点。据IDC等机构统计,2020年全球虚拟现实市场规模约为900亿元人民币,其中VR市场620亿元,AR市场280亿元。预计2020-2024五年期间全球虚拟现实产业规模年均增长率约为54%,其中VR增速约45%,AR增速约66%,2024年两者份额均为2400亿元人民币。从产业结构看,终端器件市场规模占比位居首位,2020年规模占比逾四成,随着传统行业数字化转型与信息消费升级等常态化,内容应用市场将快速发展,预计2024年市场规模超过2800亿元。
▲全球虚拟现实市场规模
虚拟现实产业链条长,主要分为内容应用、终端器件、渠道平台和内容生产。内容应用方面,聚焦文化娱乐、教育培训、工业生产、医疗健康、商贸创意等领域,呈现出“虚拟现实+”大众与行业应用融合创新的特点。
文化娱乐以游戏、视频等强弱交互业务为主,在数量规模上占据主导,商贸创意可有效提升客流量与成交率,主要包括地产、电商、时尚等细分场景,工业生产与医疗健康应用早期局限于培训指导,目前开始逐渐向产品设计、生产制作或临床诊疗等更为核心的业务领域拓展;内容生产方面,主要涉及面向虚拟现实的操作系统、开发引擎、SDK、API等开发环境/工具,以及全景相机、3D扫描仪、光场采集设备等音视频采集系统;渠道平台方面,除互联网厂商主导的内容聚合与分发平台外,包含电信运营商发力的电信级云控网联平台,以及自助VR终端机、线下体验店与主题乐园等线下渠道;终端/器件方面,主要分为终端外设及关键器件,其中终端外设包括以PC式、一体式、手机伴侣与云化虚拟现实终端,以及手柄、全向跑步机等感知交互外设。
关键器件主要包括芯片、屏幕、传感器、光学镜片等,近年来业务针对虚拟现实终端开发了专用器件,如京东方快速响应液晶屏、海思、高通处理器芯片等。参考中国信通院XR产业数据库,并对《虚拟(增强)现实白皮书(2018年)》中产业地图更新完善,得到修订后如下产业地图2020,对产业链结构分布统计可知,内容应用、终端器件、内容生产系统、渠道平台环节分布比例约为5:2.5:1.5:1,业内企业以内容应用为主。
虚拟现实较长的产业链条与交织融合的创新体系驱动厂商由供需合作向生态协同升级,即表现为发展战略、资源整合及能力实现的协同。通过对虚拟现实产业链竞合网络的梳理分析,可将企业间的生态协同关系归纳为投入力度、产业辐射、断点弥合、合作成果等发展要素,并据如下多维能力模型进一步分析评估产业链生态现状。
2、云化虚拟现实触发端网边云产业链条融合创新
在网络支撑方面,信息网络等新型基础设施迅速普及,云化虚拟现实产业发展条件基本成熟。当前,良好的网络基础设施促进了虚拟现实产业发展。我国移动宽带突出技术创新与生态培育,实现了从3G追赶到4G同步、5G引领的飞跃,现已建成近70万个5G基站,5G终端连接数超过1.8亿。光纤宽带突出公平竞争和普及渗透,实现了从铜缆接入到光纤入户的快速升级、从城市到农村的深度下沉。
据中国信通院《中国宽带发展白皮书》,截至到2020年6月,我国光纤接入(FTTH/O)用户达4.3亿户,占固定宽带用户比重达92.3%,全国所有地级市均已建成光纤网络全覆盖的“光网城市”,百兆及以上接入速率的固定宽带用户超过4亿户,占比86.8%。我国移动数据流量资费为4.3元/GB,同比下降23.3%,用户月均移动数据流量为10.1GB,同比增长29.2%,3G/4G用户普及率超过94%,超额完成宽带中国战略85%的预期目标。
在终端发展方面,云VR/AR终端有望重塑虚拟现实终端形态。在传统VR/AR终端的发展架构下,对于多阶梯、多层次与多场景的用户体验,难以不以牺牲某方面需求来满足其他。
预计2020-2024年,虚拟现实终端将日益减重便携,随者5G终端的规模普及,一体式终端将原生集成5G能力,计算负载开始向云边端协同分配,手机伴侣式终端将通过无线连接适配更多5G手机。
▲虚拟现实终端形态分类演进
在应用落地方面,对传统业务流程的解构重组催生视频内容上云、图形渲染上云与空间计算上云。在云化虚拟现实体系中,终端是门槛,业务是基础,网联是保障,协同是核心。VR/AR强弱业务云化的难点与焦点在于分解流媒体、交互应用及机器视觉等现有任务流程,并结合虚拟现实人机交互的内生特性,在云边端侧优化分配计算负载。
对于云化视频等弱交互应用,端侧用户视角这一人机交互信息可有效用于云侧视频映射、编码与传输。其中,传统经纬映射(ERP)致使两极过采样,码率存在浪费,2017年OMAF确定了八种常用投影映射格式,相比ERP,金字塔结构(VPP)等依赖终端上传视角信息的映射方式可将视角区域以高分辨率投影到二维平面,其余背景区域则以较低分辨率进行映射变换,进而在同等带宽的情况下,提高视角区域的观看质量。
为了改善或消除黑边问题,主要有TilewiseFOV等端云协同方案,即云侧可将HEVC流按照相同分辨率进行不同质量和比特率的编码,服务器上每个视角存储多份不同码率视频流,同一时刻根据端侧FOV信息传输较高码率的主视角切片流和低质量背景,并在端侧组合成混合质量虚拟现实视频。另外,业界积极探索针对个性化、社交化、六自由度等新兴虚拟现实视频端云协同的业务架构,例如云侧VR视频内容依托5G低时延特性,对端侧采集到的用户心率、眼动等生理指标作出及时响应,从而生成适配用户生理特性的后续视频内容。
对于云化渲染等强交互应用,除Stadia、GeforceNow等对传统游戏的云化实践外,业界现已围绕VR/AR应用推动商业落地,2020年英伟达联合高通、爱立信推出CloudXR解决方案,旨在依托5G、Wi-Fi等高性能网络导入云边渲染能力,优化流式传输体验,降低终端算力门槛,助力电信运营商吸引5G用户。通过在云侧加载虚拟的头显驱动,应用程序无须变更,终端对收到的音视频进行解码,并回传各类追踪及用户输入信息。
其中,虚拟现实“瘦终端”的渲染任务界面可精简为头动、眼动等更具人机交互特性的关工作,如ATW、注视点、畸变补偿渲染等。此外,对于渲染质量与速度的权衡问题,两者间的选择通常取决于应用,业界并无可在各类差异化应用中均能实现最佳计算配置的万灵药。
3、终端、行业应用与增强现实孕育投融资市场新机遇
2020年全球虚拟现实风险投资受疫情影响出现一定程度上的滑坡。当前,以FacebookQuest2与微软HoloLens2为代表新一代高性能虚拟现实终端推动了全球VR大众消费市场和AR商用市场的进一步发展,让市场看到了虚拟现实切实的技术价值和清晰的市场潜力,但源于新冠疫情及贸易摩擦等因素导致宏观经济下行压力不断增加,且由于虚拟现实市场回报周期相对较长,并未吸引大量新增风险资本进驻,2020年全球虚拟现实风险资本市场出现一定下滑。据映维网统计,2017-2019年间投融资环境相对稳定,年投资额约为100-120亿元,投资频次在170-190次左右,预计2020年投资总额及频次约为90亿元、140次。
▲全球虚拟现实风险投资市场情况
VR、AR分别占据风险投资频次与总额的主导地位。预计2020年有61%的风险投资投向AR企业,32%投向VR企业,7%流入兼具VR/AR业务的公司。过去五年,尽管多数资金流入研发难度更高、与行业融合更加紧密的AR领域,但从投资频次上看有49%的风险投资投向VR企业,37%投向AR企业,14%流入兼具VR/AR业务的公司,主要原因在于相比于AR,VR大众消费市场初步形成,技术研发与终端门槛相对较低,体验内容日益丰富,VR企业需要具备更高的现金流转能力。
▲全球虚拟现实风险投资规模(左)、频次(右)占比
硬件终端与行业应用占据全球风险投资产业细分领域主体。2020年硬件终端领域在投资规模和频次占比分别为57%和25%,行业应用领域上述指标占比为33%和53%,除硬件终端和行业应用外,包含大众应用、开发工具、游戏、影视及其他领域合计在投资规模和频次占比仅为10%和22%,两项指标均为近三年最低,投资方向进一步向硬件终端和行业应用领域聚焦,如今年获得风险投资的游戏制作公司数量出现明显下滑,从2017年的39家降至2019年的11家直至今年的7家。
相比之下,变现能力更强的硬件终端和行业应用公司更易获得资本青睐。在硬件终端领域,头显公司在过去三年获得的资金支持逐渐提升,外设及器件风投规模逐渐缩减,这源于头显终端技术集成度日益提高。在行业应用领域,投资总额及频次比之2018年均有一定增长,表明工业、教育、医疗与商贸等行业用户对虚拟现实解决方案的投资回报前景看好程度加大,买单意愿提升。
中美成为投资热点地区,风投资本集中度凸显,并针对产业链开展更加审慎明确的投入。从地域分布来看,2019年获得风险投资的公司中,33%的总部位于美国,14%位于中国大陆,并分别获得60%、9%的资金,中美继续保持风险投资市场主导地位。2020年中国大陆获得风险投资的公司数量约为20家,相比2018年、2019年的47及32家有所减少,获投资金规模相比去年减少约五成。从资本集中度来看,前十企业的融资集中度提升,终端及爆款应用成为焦点领域,如MagicLeap、Niantic当年均获数亿美元融资。此外,AR方向渐成热点,在2017-2019年间占比从三成增至七成。
▲近年来全球虚拟现实风险投资热点事件
4、国家部委及地方政府积极推动虚拟现实产业发展
我国积极推动虚拟现实产业发展。自2016年虚拟现实被列入“十三五”信息化规划、互联网+等多项国家政策文件以来,工信部、国家发改委、科技部、教育部等部委相继出台指导政策支持虚拟现实产业发展。国务院从十三五规划开始把虚拟现实视为构建现代信息技术和产业生态体系的重要新兴产业,在《新一代人工智能发展规划》中将虚拟现实智能建模技术列入“新一代人工智能关键共性技术体系”,2020年相继出台《关于进一步激发文化和旅游消费潜力的意见》、《新时代爱国主义教育实施纲要》和《关于推进对外贸易创新发展的实施意见》等文件,进一步明确虚拟现实在文化旅游、教育宣传、商贸会展等领域的创新应用。
在2021年出台的《中华人民共和国国民经济和社会发展第十四个五年规划和2035年远景目标纲要》中将VR/AR产业列为未来五年数字经济重点产业之一。工信部在2018年12月出台《关于加快推进虚拟现实产业发展的指导意见》,从核心技术、产品供给、行业应用、平台建设、标准构建等方面提出了发展虚拟现实产业的重点任务。
在2020年2月发布《关于运用新一代信息技术支撑服务疫情防控和复工复产工作的通知》,提出要深化增强现实/虚拟现实等新一代信息技术在复工复产中的应用,推广协同研发、无人生产、远程运营、在线服务等新模式新业态。同年3月出台的《关于推动工业互联网加快发展的通知》提出引导工业互联网平台增强5G、人工智能、区块链、增强现实/虚拟现实等新技术支撑能力,强化设计、生产、运维、管理等全流程数字化功能集成。
2020年《关于促进消费扩容提质加快形成强大国内市场的实施意见》中指出要加快发展超高清视频、虚拟现实等新型信息产品,助力形成强大国内市场。科技部在“十三五”中将虚拟现实列入现代服务业、健康产业、医疗器械、中医药科技、技术标准科技等领域的创新规划中,并联合中宣部于2019年发布《关于促进文化和科技深度融合的指导意见》,提出加强包括VR/AR虚拟制作在内的文化创作、生产、传播和消费等环节共性关键技术研究以及高端文化装备自主研发及产业化。
文化和旅游部2016年出台的《关于推动文化娱乐行业转型升级的意见》将虚拟现实、增强现实做为游戏游艺设备创新的重要支撑,2020年底发布的《关于推动数字文化产业高质量发展的意见》明确指出要引导和支持虚拟现实、增强现实等技术在文化领域应用,推动现有文化内容向沉浸式内容移植转化。
教育部在《教育信息化“十三五”规划》中把加快推进示范性虚拟仿真实验教学项目建设列入深入推进信息技术与高等教育教学深度融合工作,在2018年《教育信息化2.0行动计划》中提出为结合5G技术发展,将以国家精品在线开放课程、示范性虚拟仿真实验教学项目等建设为载体,加强大容量智能教学资源建设。
同年发布《普通高等学校高等职业教育(专科)专业目录》中增设“虚拟现实应用技术”专业,据不完全统计至2020年已有七十余所高职院校开设虚拟现实应用技术专业。在2019年《关于加强和改进中小学实验教学的意见》中指出,要创新实验教学方式,可用增强现实、虚拟现实等技术手段呈现不宜现场操作的实验。
卫健委在《“十三五”健康产业科技创新专项规划》中提出重点发展虚拟现实康复系统等智能康复辅具,加快增强现实、虚拟现实等关键技术的应用突破,提高治疗水平。
各地政府积极推进本地虚拟现实产业发展。自2018年底工信部出台虚拟现实产业发展指导意见后,各地随之出台适配本地情况的扶持政策,比之2016年产业元年的概念热潮,此轮地方产业政策聚焦终端设备规模上量、优质内容制作聚合、行业应用落地实践、云控网联平台支撑推广、融合创新中心建设运营等更加切实的产业问题。综合各地现状,虚拟现实发展情况可大致归纳为ICT优势、特色领域以及政策驱动多类。其中,北上广深等优势型城市具备较为完整成熟的ICT产业链条,专利持有量位居全国前列,投融资事件相对活跃。
03.创新应用分析
1、虚拟现实+商贸会展:后疫情时代的未来会展新常态
在商贸会展领域,针对线下会展参与可行性与便利性、固有组织成本、传统线上活动感官认知与互动体验受限等现状问题,虚拟现实有助于实现会展组织由以活动议程为中心向与会体验为中心的方向转变,将成为未来会展发展的新动能与新常态。
以云化架构为引领,业界积极探索虚拟现实在各类细分会展场景的技术实施路径与业务发展范式。从会展形式看,可分为仅线上与线上线下相融合的参与方式,远程与会者可通过自拍视频前后景抠像或3D虚拟化身方式线上接入,且交互空间可根据业务实际由3DoF扩展至6DoF。
从技术支撑看,沉浸声场成为VR/AR+会展业务的刚需技术,听音辩位、背景降噪、定向增强与空间混响有助于营造线上会议的临场感。此外,云上会展的业务架构有助于实现虚拟现实终端瘦身,并将自拍抠像、虚拟化身、环境渲染、视频融合、沉浸声场、6DoF定位追踪等计算处理任务向云边卸载。
从场景功能看,论坛、圆桌、聚会、展览已成为虚拟现实商贸会展的重点场景。以线上线下相结合的展览场景为例,身在展厅现场的观众与厂方讲解者可借助AR眼镜(或展位大屏)同远程与会者交流互动,且线上观众如临会场,声音方位始终与其虚拟化身位置、现场人员方位朝向实时适配。
例如,华为公司2020年推出商臻云展厅解决方案采用云渲染+3D模型+VR全景技术模拟线下场景,观众可在虚拟场景中以自由视角逛展。同时,通过3D环拍、3D模型等三维商品展示方式,可进一步改善传统线上2D图片观众体验受限的痛点问题。另外,参展企业可套用不同搭建模板快速布展,附带虚拟讲解员VR带看服务,并基于云平台编解码、边缘推流、跨平台分发、8KFOV、CDN、5G网络分片等技术等保证云上会展的体验流畅性。
2、虚拟现实+工业生产:企业数字化转型的新动能
在工业生产领域,针对产品复杂度的不断提升、技能娴熟工人的紧缺、设计开发与规划生产的协同、营销与销售绩效的压力等问题,虚拟现实作为新一代人机交互工具,可为开发设计、生产制造、营销销售、运营维护等人员连接起数字世界和现实世界,提升企业数字化转型过程中从多元数据获取洞察的能力与水平。
企业越来越多地使用先进制造技术,装配工、操作员和技术人员负责执行的任务种类也相应增多,复杂的产品带来了复杂的操作,拉升了员工整体技能要求,而不断流动的员工影响了优质劳动力的供给。在装配/运维场景,基于虚拟现实的工作说明显著优于以往静态参考图片,依托远程协助、3D可视化、实时诊断与反馈等功能特点,可提高按时交付率、产能利用率、首次修复率、新人培训效率,减少返工、废料与不合格率。
3、虚拟现实+地产营销:行业差异化竞争必由之路
在地产营销领域,针对线上看房难以直观清晰了解房屋全貌及诸多细节、远程看房缺乏实时互动体验等现状问题,依托虚拟现实技术,大众可获得房屋翔实的三维复刻体验,并根据用户偏好即时生成未来家装效果预览,实现“线上身临其境有温度,线下未来之家可预见”。
虚拟现实进一步提高了线上看房的信息承载含量与质量,助力用户决策,日渐成为地产营销差异化竞争的必由之路。有别于传统2D照片与视频,VR可以更加清晰地呈现出房源的三维结构、尺度信息、整体户型、内部装修以及房间细节等信息,提高供需对接效率。
据不完全统计,虚拟现实+地产营销应用可提升房源约看量100%以上,线下看房时长缩短约10%,房均成交周期缩短约5%。借助VR扫描相机,可对房屋进行多点多角度扫描,并与彩色镜头拍摄的全景照片数据相结合,修正全景照片畸变,在云端重建出房屋完整的3D彩色模型。
在AI设计方案基础上,用户可按照喜好参与到家装设计中来,自主更改家居风格、拖拽和替换家居物品,实时渲染完成相应装修3D效果,如贝壳未来家AI设计业务等。在线下家居布置效果AR预览场景中,房屋交易中线下看房难以取代,客户现场看房时会根据房间空间位置等信息,设想未来室内家具布置效果。由于空间尺寸不精确、受房间当前杂乱陈设等影响,以往用户只能“粗放设计”。
借助AR技术,用户不受当前房屋环境客观限制,以虚实融合的方式即刻预览未来装饰效果,给客户带来对房屋空间的切实感知和全新想象。此外,虚拟现实+地产营销已成为5G首批规模商业应用。
在4G时代的看房业务,由于受限4G网络并考虑浏览经济性,需要将150MB(以一套100平米房屋为例)的3D高清数据压缩数倍,致使部分细节呈现失真乃至丢失。随着5G的正式商用,其大带宽和低时延的技术特性,使3D数据的快速传输成为可能,为用户带来高清房源即点即看的进阶体验。另外,相比4G网络下用户浏览VR房源实景的效果(单流),5G大带宽能力可轻松实现双流高清数据同时传输,在用户手机上同步呈现装修前实景图和云端渲染后装修设计效果。
4、虚拟现实+医疗健康:传统医学手段的有效补充
在医疗健康领域,针对医生短缺、医疗资源分布不均、诊疗方式单一等现状问题,虚拟现实的高沉浸性、高可重复性、高定制化性、远程可控性等特点,有助于丰富教学和诊疗手段、降低治疗风险、提高设备利用率、促进高素质人才和医疗资源下沉,为医患双方创造便利条件,推动医疗准确性、安全性与高效性的持续进阶。现阶段虚拟现实+医疗尚无法完全取代真实诊疗过程,但现已作为传统医学手段的有效补充,具备规模推广的条件,有望成为医疗行业的重要辅助技术手段之一。
虚拟现实+医疗广泛用于模拟医学、医疗工具、诊疗方案方面,主要涉及医学教育培训、心理/精神疾病治疗、强化临床诊治、医学康复护理和远程医疗指导等业务场景。其中,基于虚拟现实的医学教育培训便于医学用户以更加直观、高效、安全的方式学习专业知识,实践专业技能,同时有助于节省医学教育成本。如缓解了解剖医学解剖样品供应严重短缺,帮助医学生在虚拟手术台上反复练习,加快对解剖结构的理解,解决了医生职业的准入门槛高、在夯实基础知识的同时需要配合大量解剖练习掌握实战技巧等问题。
RelaxVR模拟海滩、海洋、海风、海浪等场景,对用户进行放松,缓解其压力、焦虑和抑郁;临床诊疗强化借助VR技术对患者病灶体征等进行实时模拟,可应用于临床疾病辅助诊断,达到减少疼痛、消除患者紧张和恐惧效果,帮助医生获取更加全面的病患信息,减少患者在就诊过程中不便,如手术计划协助系统可通过计算机断层扫描(CT),磁共振(MR)、超声心动图和C型臂透视图像,创建器官、血管等3D全息影像,医生可借此与患者交流病情,识别最佳的治疗方法,进行针对性的术前规划,从而达到更好的治疗效果;医学康复护理借助虚拟现实训练内容为患者的神经系统提供有意义的刺激,同时利用多感觉训练来改善大脑的神经可塑性,从而引起功能恢复。
VR让患者在虚拟环境中扮演角色,充分调动利用患者自主性,通过训练动作与之进行交互,虚拟环境及时给予患者评估和反馈,充分激发患者参与治疗积极性,使被动治疗变为主动治疗。如微软开发的VR系统Canetroller,创新性地将视障人员视觉性体验转换为听觉体验。MindMaze专注于将虚拟现实与运动捕捉技术与脑机界面相结合,改善患者中风康复治疗;远程医疗指导通过超高清回传再现的VR/AR视频,结合反馈设备为远程支援医生提供更真实的病况,可为病人提供高阶会诊服务,提高手术成功率。
5、虚拟现实+教育培训:教学模式由被动接受向自主体验升级
在教育培训领域,针对传统教学过程中部分课程内容难于记忆、难于实践、难于理解等现状问题,虚拟现实有助于提升教学质量与行业培训效果。在面向大众的教育教学方面,EdgarDale的“学习尖塔”理论认为,学生对于学习情境的参与度越高,记忆就越牢固,借助体验习得的知识经验效率远高于传统教学培训方式(文字符号、录音广播、静态图片等)。
依托虚拟现实技术,学生通过与各种虚拟物品、复杂现象与抽象概念进行互动,得以身临其境的体验现实世界中难以实现的“实操”机会,进而激发学习热情,增强注意力水平,提升知识保留度,降低潜在安全风险。此外,虚拟现实有助于辅助教师高效授课,释放新一代信息技术带来创新潜力。
在教育部等多部委联合印发的《教师教育振兴行动计划(2018—2022年)》中指出,要充分利用虚拟现实等新技术,推进教师教育信息化教学服务平台建设和应用,推动以自主、合作、探究为主要特征的教学方式变革。在面向企业的技能培训方面,根据各类企业培训目标定位的差异,通常可分为面向任务过程的培训、多人协同设备设施培训与基于AI的软技能培训等。
与K-12等具备标准课程设置的教育市场不同,企业市场中VR培训在各垂直行业呈现高度定制化、情景长尾化的特点,且对VR创新应用项目的投资回报要求更为明确。例如,在面向石油化工行业的职业教育领域,易智时代依托云VR平台为石化企业员工提供了设备操作演练、工艺流程模拟、安全事故还原、结构原理讲解、智能巡检、技能考核等多场景的垂直行业VR培训解决方案,旨在提高培训效果与效率。
6、虚拟现实+文娱休闲:新型信息消费模式的新载体
以数字化赋能实体商业,以流量平台激活实体商圈,以虚拟现实场景引领消费新时尚,推进商业综合体和万家实体商户上云用数赋智,是推动消费业态推陈出新,深化商旅文体协同,提升综合体、消费者和商户的获得感,满足人民群众对美好生活的需要的关键举措。
2020年中国电信推出了5GMEC商业综合体云XR数字孪生平台,面向商家提供了基于MEC的商场信息化应用、数字孪生系统、客流轨迹精细化分析等应用,面向消费者提供了虚拟导购、虚拟景观、红包探宝、点评导航、娱乐空间、虚拟化身直播等功能,旨在加速推动虚拟现实等新型智能交互技术与线下消费场景的深度融合。
2020年万达集团举办商业中心5G创新应用大赛,并联合产业伙伴发布《商业中心5G创新应用白皮书》,XR成为商业中心智能服务的核心业务。智慧旅游方面,AR实景导览与VR行前预览,丰富了景点的游览方式,营造沉浸式的互动体验。
如通过将莫高窟景区文物与风景融合呈现,华为河图实现了自动识物的自助讲解、文物复原、场景再现等功能,帮助游客对景观概要“知其然,亦知其所以然”。线上社交方面,虚拟现实通过手势识别、虚拟化身、表情识别等更加个性化、更具表现力、日益丰富沉浸的互动形式,突破了传统线上社交的体验瓶颈,开启了网络社交2.0。
2020年脸书启动VR社交平台Horizon试运营,用户可利用Grant等创作工具自行构建可与他人共享的虚拟世界互动体验。3D游戏方面,成熟的受众群体以及玩家对于新技术的积极态度使得虚拟现实游戏成为文娱休闲领域的市场重点。
Valve推出的首款VR游戏《半条命:艾利克斯》成为2020年VR游戏爆款,该游戏在物品场景互动性、画面细节拟真度等方面进步显著,为STEAMVR平台新增发展百万用户。剧集视频及活动直播方面,VR巨幕影院、3603D视频等媒体形式突破屏幕尺寸和空间位置的限制,为用户提供影视作品、综艺节目、体育赛事、风景名胜等内容题材,并引入社交互动元素,给用户带来新的观赏体验。