从单张RGB图像中实现双手的3D交互式网格重建是一项极具挑战性的任务。由于双手之间的相互遮挡以及局部外观相似性较高,导致部分特征提取不够准确,从而丢失了双手之间的交互信息并使重建的手部网格与输入图像出现不对齐等问题。为了解...从单张RGB图像中实现双手的3D交互式网格重建是一项极具挑战性的任务。由于双手之间的相互遮挡以及局部外观相似性较高,导致部分特征提取不够准确,从而丢失了双手之间的交互信息并使重建的手部网格与输入图像出现不对齐等问题。为了解决上述问题,本文首先提出一种包含两个部分的特征交互适应模块,第一部分特征交互在保留左右手分离特征的同时生成两种新的特征表示,并通过交互注意力模块捕获双手的交互特征;第二部分特征适应则是将此交互特征利用交互注意力模块适应到每只手,为左右手特征注入全局上下文信息。其次,引入三层图卷积细化网络结构用于精确回归双手网格顶点,并通过基于注意力机制的特征对齐模块增强顶点特征和图像特征的对齐,从而增强重建的手部网格和输入图像的对齐。同时提出一种新的多层感知机结构,通过下采样和上采样操作学习多尺度特征信息。最后,设计相对偏移损失函数约束双手的空间关系。在InterHand2.6M数据集上的定量和定性实验表明,与现有的优秀方法相比,所提出的方法显著提升了模型性能,其中平均每关节位置误差(Mean Per Joint Position Error,MPJPE)和平均每顶点位置误差(Mean Per Vertex Position Error,MPVPE)分别降低至7.19 mm和7.33 mm。此外,在RGB2Hands和EgoHands数据集上进行泛化性实验,定性实验结果表明所提出的方法具有良好的泛化能力,能够适应不同环境背景下的手部网格重建。展开更多
视触觉增强现实是将触觉感知加入到增强现实中的一种新技术。不仅可以融合真实场景和虚拟对象,还能实现视觉和触觉的同步感知。基于3D Systems Touch触觉设备提出一种新的视触觉交互算法。首先,基于Marker-SLAM算法搭建增强现实环境,用...视触觉增强现实是将触觉感知加入到增强现实中的一种新技术。不仅可以融合真实场景和虚拟对象,还能实现视觉和触觉的同步感知。基于3D Systems Touch触觉设备提出一种新的视触觉交互算法。首先,基于Marker-SLAM算法搭建增强现实环境,用于实时获得相机在地图中的位姿;其次,为了将触觉信息融入到增强现实环境中,提出基于无跟踪器的触控笔尖端姿态优化算法;最后,分别采集测量点在触觉和世界坐标系中的三维信息,通过确定两个坐标系间的刚性变换,将触觉设备的正向运动模型映射到增强现实空间中。所提出的跟踪注册方法的注册准确率均达到90%以上,与基于跟踪器的方法相比,所提出的姿态优化算法获得的校正位置的平均误差为2.3±0.2 mm。展开更多
文摘从单张RGB图像中实现双手的3D交互式网格重建是一项极具挑战性的任务。由于双手之间的相互遮挡以及局部外观相似性较高,导致部分特征提取不够准确,从而丢失了双手之间的交互信息并使重建的手部网格与输入图像出现不对齐等问题。为了解决上述问题,本文首先提出一种包含两个部分的特征交互适应模块,第一部分特征交互在保留左右手分离特征的同时生成两种新的特征表示,并通过交互注意力模块捕获双手的交互特征;第二部分特征适应则是将此交互特征利用交互注意力模块适应到每只手,为左右手特征注入全局上下文信息。其次,引入三层图卷积细化网络结构用于精确回归双手网格顶点,并通过基于注意力机制的特征对齐模块增强顶点特征和图像特征的对齐,从而增强重建的手部网格和输入图像的对齐。同时提出一种新的多层感知机结构,通过下采样和上采样操作学习多尺度特征信息。最后,设计相对偏移损失函数约束双手的空间关系。在InterHand2.6M数据集上的定量和定性实验表明,与现有的优秀方法相比,所提出的方法显著提升了模型性能,其中平均每关节位置误差(Mean Per Joint Position Error,MPJPE)和平均每顶点位置误差(Mean Per Vertex Position Error,MPVPE)分别降低至7.19 mm和7.33 mm。此外,在RGB2Hands和EgoHands数据集上进行泛化性实验,定性实验结果表明所提出的方法具有良好的泛化能力,能够适应不同环境背景下的手部网格重建。
文摘视触觉增强现实是将触觉感知加入到增强现实中的一种新技术。不仅可以融合真实场景和虚拟对象,还能实现视觉和触觉的同步感知。基于3D Systems Touch触觉设备提出一种新的视触觉交互算法。首先,基于Marker-SLAM算法搭建增强现实环境,用于实时获得相机在地图中的位姿;其次,为了将触觉信息融入到增强现实环境中,提出基于无跟踪器的触控笔尖端姿态优化算法;最后,分别采集测量点在触觉和世界坐标系中的三维信息,通过确定两个坐标系间的刚性变换,将触觉设备的正向运动模型映射到增强现实空间中。所提出的跟踪注册方法的注册准确率均达到90%以上,与基于跟踪器的方法相比,所提出的姿态优化算法获得的校正位置的平均误差为2.3±0.2 mm。
文摘针对目前智能机器人领域中,利用多帧连续视觉和触觉信息时,对时空信息和模态间的异构信息处理不足的问题,提出了一种结合时空注意力的视触融合目标识别方法。该方法利用Swin Transformer模块从视觉和触觉图像中分别提取特征,减轻模态间的异构性;使用基于注意力瓶颈机制的时空Transformer模块,实现视觉和触觉特征信息的时空交互和跨模态交互;通过多头自注意力融合模块,实现视触觉特征中信息的自适应聚合,提高了算法对目标识别的准确性;通过全连接层获得目标识别的结果。该模型在The Touch and Go公共数据集上的精确率和F1分数分别为98.38%和96.83%,比效果最好的对比模型提高了0.90和0.63个百分点。此外,消融实验也验证了提出的各个模块的有效性。
