VR颠覆性时刻:扔掉手柄,进入“无感驾驶”

Xsens动作捕捉 2023-03-31 8144

VR颠覆性时刻:扔掉手柄,进入“无感驾驶”  第1张

智东西(公众号:zhidxcom)

作者 | 徐珊

编辑 | 云鹏

万万没想到,今年春天VR厂商们为“一双手”卷起来了。

仅2022年上半年,就有四家VR巨头对自家VR设备的手势交互技术操刀改良。

4月20日,Meta旗下的VR头显Oculus Quest 2手势交互版本迭代至2.0,解决了手部定位丢失的问题。4月13日,字节跳动旗下的VR品牌Pico宣布其两款企业级VR头显可以通过定制的手部追踪配件,提升手势交互体验。VR厂商HTC也在今年1月发布了一款新款腕式追踪器,辅助预测用户的手部位置。

VR颠覆性时刻:扔掉手柄,进入“无感驾驶”  第2张

Oculus Quest 2手势交互1.0版本和2.0版本在手部快速追踪方面的对比

无论是裸手交互技术,还是手部追踪配件,用于VR设备的手势交互技术一直在不断迭代。同时,不少VR企业还在尝试寻找新的手势交互方式,比如说VR手套。

5月6日,荷兰VR手套制造商Manus宣布其新款采用磁力追踪技术的VR手套Quantum Metagloves开启预售。5月4日,国内动捕技术巨头诺亦腾发布Hi5 2.0 VR交互手套。而早在2021年11月,Meta就曾展现自家的VR触感手套模型,分享自己在VR手势交互方面的最新成果。

VR颠覆性时刻:扔掉手柄,进入“无感驾驶”  第3张

从左到右分别为Manus、诺亦腾、Meta的VR手套

不仅如此,苹果、谷歌、微软等一些潜在VR玩家还获批多项与智能戒指有关的专利,试图将智能戒指打造为下一代手势交互的关键输入设备。

手势交互技术是最基础也是最自然的交互方式,也是VR设备中主流的交互方式之一。一般来说,手势交互是指通过数学算法来识别人类手势的技术,包括图像获取、手势追踪、手势识别与分析等多个过程。

其中,手部追踪和手势识别是手势交互中较为关键的两个步骤。手部追踪是指准确地在VR头显中定位用户双手的位置,而如何精准地识别每个手指的动作,识别手的各种形态等属于手势识别。

手势交互技术也暗藏巨大的市场空间。国际市场分析公司Markets and Markets发表报告称,2024年“手势识别和无触碰感知”市场将达到340亿美元。

VR设备的手势交互技术有了哪些新玩法?厂商为何都在近期升级自家VR设备的手势交互技术?VR设备的手势交互技术发展究竟如何?

我们与诺亦腾CTO戴若犁、梦想绽放(爱奇艺智能)技术负责人史明以及HTC的技术负责人等多位行业人士深度交流后,试图找到答案。

抛开手柄,VR游戏可以裸手玩

相较于其他移动设备,用于VR设备的手势交互技术进步较为缓慢。比如说,从3dof到6dof经历了近五年的发展时间,手柄交互到裸手交互仍处在初期阶段。随着技术不断进步,裸手交互也开始在不少消费级VR头显上普及。

Meta曾在2019年发布手势交互1.0版本,并将裸手交互引入初代Oculus Quest VR头显,让用户可以直接在虚拟世界中看到自己的双手,并进行一些简单的交互操作。时隔2年后,Oculus Quest 2拥有了手势交互2.0版本。

此次升级主要解决了两大难题。一是解决了用户双手重叠时,手部追踪困难的问题。在Quest 2的手势交互1.0版本中,当用户的双手相互阻挡或重叠时,系统很难识别用户的手势动作。二是在用户快速挥动双手时,系统也很容易丢失对于手部的追踪。这两种情况的发生都有可能会造成双手从虚拟世界中突然消失。

VR颠覆性时刻:扔掉手柄,进入“无感驾驶”  第4张

Quest 2手势交互1.0版本和2.0版本对比

至于是如何解决这两项问题,Meta在其公告中说明,基于“重新设计的计算机视觉和机器学习方法”,新版本提高了手部跟踪的性能可靠性。但自从版本更新后,我们看到不少用户反馈到,尽管手势交互功能有了更好的体验,但是系统也出现了明显的卡顿。

对此现象,戴若犁解释到VR头显处理计算的能力本身就比较有限,而Meta基于计算机视觉获取数据,并将一部分算力资源用来预测用户手部位置,这种方案无疑将会为VR头显带来较大的计算处理压力,也是“系统卡顿”现象的主要原因。

HTC也在今年3月推出了新款的腕式追踪器VIVE Wrist Tracker,并且在去年年底升级自家的手部追踪版本。据HTC官网信息介绍,当用户将腕式追踪器戴在手腕上时,即使在一段时间内双手离开相机视野,系统也可以通过腕式追踪器的高频IMU数据和运动学模型预测手部的运动轨迹。

HTC的相关负责人还向智东西,相比VIVE Focus 3控制器,VIVE Wrist Tracker移除了按钮、触觉输入等零部件从而缩小电池尺寸,将控制器变得更小更轻了。据介绍,HTC的手腕追踪器比VIVE Focus 3控制器小85%,重量轻50%。

VR颠覆性时刻:扔掉手柄,进入“无感驾驶”  第5张

VIVE Wrist Tracker腕式追踪器

我们可以看到,Meta的裸手交互方案仍是计算机视觉为主,HTC的裸手交互方案则需要依靠腕式追踪器等外设。前者能帮助用户快速、有效地体验裸手交互的乐趣,而后者通过惯性传感器提高一定程度手势交互的准确性和可靠性。面对不同的应用场景,不同厂商VR设备的裸手交互方案各有侧重。

但裸手交互一定会给人们带来更好地体验吗?戴若犁在采访时说:“在技术成熟度尚未达到的时间点,将裸手交互这类人机交互新方式嵌入操作系统中,会给人们过高的期待。”

“从操作成功率和触感反馈来说,手柄在乐趣以及操作准确性上要远胜裸手交互。”他解释到,在人机交互领域,80%的操作准确性和100%的操作准确性给用户带来的交互体验是完全不一样的。

微软亚洲研究院网络图形组首席研究员童欣曾在2017年接受媒体采访时证实这一点。“当我手握手柄的时候,手柄不仅是一个输入设备,同时也是输出设备,它可以通过震动、力反馈给我一个输出的反馈。而当我空手在空气中挥舞的时候,我就失去了自己的输出渠道。”微软亚洲研究院网络图形组首席研究员童欣说道。

有限的计算消耗、较高的学习成本、较低的操作准确性等都是阻碍VR设备裸手交互技术发展的主要原因。但在交互体验上,裸手交互也将会给VR内容生产者提供更多的发挥空间。不少VR设备中,裸手交互作为一种辅助的手势交互方式。

大厂们争着做的VR手套,B站100元搞定

为了在裸手交互带来的沉浸感和VR手柄提供的高准确性之间寻找到平衡点,VR厂商们又想出了另一种手势交互方式——VR手套。

目前,VR手套存在比较多的形态,但是真正可以大规模量产和销售的VR手套主要分为基于惯性传感器和基于弯曲传感器两种类型。不同于基于计算机视觉手势交互的数据处理方式,以惯性传感器为主的VR手套将通过传感器收集大量的手部定位和手指交互的数据。而以弯曲传感器为主的VR手套则测量精度较低,由于对于贴合程度的要求较高,其可穿戴设备的舒适度也较低。

我们有机会抢先体验到Hi5 2.0 VR交互手套。一副Hi5 2.0 VR交互手套共有12个惯性传感器,每只手佩戴六个无线传感器,分布五个手指和手背上。同时该套装还将配有一个数据收发器,可以插在电脑或者VR头显上传输数据。

VR颠覆性时刻:扔掉手柄,进入“无感驾驶”  第6张

Hi5 2.0 VR交互手套

打开传感器、安装传感器、固定好手部追踪器,选择校准界面,Hi5 2.0 VR手套的校准方式比我们一开始想象的要复杂一些。

在体验过程中,我们发现Hi5 2.0 VR交互手套能提供较为精准的手势识别过程,比如说手部的位置和手势的变化基本都能实时显示变化。据官网介绍,该设备的姿态计算帧率从180fps提升至500fps,研发人员还通过算法提高了一定的抗磁干扰程度。

VR颠覆性时刻:扔掉手柄,进入“无感驾驶”  第7张

诺亦腾研发人员正在校准Hi5 2.0 VR交互手套

除此之外,研究人员也在尝试不同的VR手套设计方案。

2021年11月,Meta公布了其研发7年的VR触感手套原型,这款VR手套用微型气阀取代了电机,通过复杂的控制系统调整手指上的充气仪器,形成拟真压力,从而模拟各种触感。

VR颠覆性时刻:扔掉手柄,进入“无感驾驶”  第8张

Meta触感手套

荷兰VR手套开发商Manus的Quantum Metagloods VR手套则是基于磁力追踪技术打造而成。

与诺亦腾选择用算法去减轻天然环境造成的磁干扰,保证追踪稳定性的方案不同,通过磁力追踪的手势交互方案需要两个设备协作完成。一个设备内设xyz三个方向的线圈,同时VR手套中也将内含一个线圈,两个线圈将以高频共振的方式切割磁力线,从而获得手的位置变化。

尽管VR手套能提供较为准确的手势动作捕捉,但VR手套的价格成本决定了其只能面向小部分极客玩家和商用市场。

据悉,Meta手套的原型成本约为5000美元(约33400元),而Manus的Quantum Metagloods的预售价为9000美元(约6万元),诺亦腾的Hi5 2.0 VR交互手套,售价为9800元人民币。

从左到右分别为Manus、诺亦腾、Meta的VR手套

Meta曾将研发VR触感手套的项目描述为“登月计划”。“当我们开始研发VR触感手套时,我们希望打造一款可以大规模量产,消费者买得起的消费设备,让人们在任何地方都能体验到虚拟世界。”Meta的项目负责人说:“但这几乎不可能。”

在调查的过程中,我们还发现B站上有不少UP主自制VR手套,这些价格的成本从100元到350元不等,部分VR手套甚至拥有力反馈功能。我们看到这些自制的VR手套可以用于一些简单的VR游戏中,可以做出拿、捏、翻转等一些简单的动作,但其显示延迟情况也较为明显,还时常会出现一些鬼畜场景。

VR颠覆性时刻:扔掉手柄,进入“无感驾驶”  第9张

B站UP主们尝试自制VR手套

面对VR手套的巨大价格差距,一位从事VR手套的行业人士分析认为面向B端市场的VR手套成本主要在研发投入、零部件以及人力资源成本上,价格根据市场需求而定。这意味着可能做一幅普通VR手套的价格并不高,但做一副可以面向商用场景、提供准确精度的VR手套需要较高的成本。

尽管VR手套能兼顾VR设备的沉浸感和手势交互的准确性,如何降低VR手套的价格将是VR手套发展必须要解决的难题。

、想要拥有自由的“双手”?要从算法、工程、交互设计攻克难题

从裸手交互和VR手套交互两种方式来看,VR设备的手势交互技术发展正在不断更新迭代,此前面临的一些困境也逐步寻找到了解决方法。但整体而言,用于VR设备的手势交互技术还存在不少难点。

到底是什么阻碍了我们扔掉VR手柄,无法采用新的手势交互方式?国内VR头显奇遇系列的研发人员、梦想绽放(爱奇艺智能)的技术负责人史明在接受智东西采访时给出了三个要点。

首先是算法层面。目前用于VR设备的手势交互技术基本采用深度学习技术,因此研发过程中需要依赖大量的业务场景标注数据。而基于手势的三维数据获取成本高,并且难以保证数据质量和一致性。

VR颠覆性时刻:扔掉手柄,进入“无感驾驶”  第10张

手势交互的关键点识别

其次,手势交互技术在工程优化方面比较复杂。手势交互技术需要以一个优异模型为前提,需要做小模型推理演绎。而推理过程中,研究人员既要保证算法的精确度,又要保证数据的实时高效性。

最后是在交互使用方面的设计。VR研发人员需要在设计手势交互相关操作时规避视觉死角问题,同时还要为用户提供较好的交互体验。

关于手势交互的设计这一点,曾担任Facebook Reality Labs设计师刘晓雨也曾在采访中提到手势交互技术很容易在使用期间出现遮挡情况,设计手势交互动作时还需要考虑用户的学习成本。

除此之外,微软亚洲研究院网络图形组首席研究员童欣还曾提到对于手势识别而言,机器很难分清输入状态和非输入状态。与键盘的按键交互方式不同,机器很难去分别你摇手的动作,是做出一个挥手的手势,还是玩累了想要甩手休息。

总体而言,用于VR设备的手势交互技术整体上主要面临两个方面的难题。一方面是哪一种手势交互方式能兼顾沉浸感、准确性并且成本低,能用于所有的VR设备。另一方面是,如何根据VR设备的基础配置打造出最适合这款设备的手势交互功能。

可以预见的是,在裸手交互技术能获得较高的精度、VR手套成本下降之前,手柄将仍是VR设备手势交互的主流方案之一。

结语手势交互技术或成VR体验升级关键

目前,用于VR设备的手势交互总共分为三个方向:现有的手柄交互方式、正在逐步成为主流的裸手交互方式、和仍在小众阶段的外接可穿戴设备的交互方式。但值得注意的是,这三种交互方式并非替代关系,是可以实现共存。

在手机、电脑快速发展的时期,无论是键入,还是触屏的交互模式,都曾给人们带来新的交互体验,手势交互同样会给VR设备体验和VR内容生产带来新的变化。

手势交互的技术发展总会有无穷无尽的方向,但被时代所留下的手势交互技术终究是少数,用于VR设备的手势交互技术将会如何演进,或许时间能告诉我们答案。

VR颠覆性时刻:扔掉手柄,进入“无感驾驶”  第11张

The End