SFHand

新的SFHand方法预测用于具身操纵的3D手部运动

研究人员推出了一种新颖的用于具身操纵的表示学习方法SFHand，该方法专注于预测3D人类手部运动。该方法通过从视频和语言指令中自回归地预测未来的手部状态来进行学习，捕捉时间上下文和显著的手部区域。该方法附带了SFHand，这是一个大规模的同步3D手部姿势和语言指令的开源数据集。当应用于下游的具身控制任务时，SFHand展示了最先进的性能，提高了成功率并实现了领先的3D手部预测精度。