近日,南京大学的研究人员研制了一种微型、难以察觉且生物相容的智能隐形眼镜(smart contact lenses ,SCL),可用于原位眼球追踪和无线眼机交互。采用频率编码策略,无芯片、无电池的镜头成功地检测眼球运动和闭合。采用时序眼动追踪算法,镜片的角度精度高达<0.5°,甚至小于中央凹的视野范围。
那么,翻译成普通人听懂的普通话就是:科学家研制了一种智能隐形眼镜,能进行各种逆天的视觉操作,例如眼睛绘图、贪吃蛇游戏、网页交互、云台变焦相机控制、机器人车辆控制……就跟科幻电影一样。
视频:控制 PTZ 摄像头。(来源:论文)
「《碟中谍4》提出了一款具有面部识别功能的智能隐形眼镜。如果小型隐形眼镜能够实现虚拟与现实世界的无缝结合,那将是 AR 技术的终极形态。基于眼动追踪的人机交互技术是其中比较重要的组成部分之一。」这项研究的负责人,南京大学工程与应用科学学院的徐飞教授描述了课题的灵感来源,他还谈到科幻小说如何激发科学家的想象力和创造力。
这项研究以「Frequency-encoded eye tracking smart contact lens for human–machine interaction」为题,于 2024 年 4 月 27 日发布在《Nature Communications》。
人与机器的交互是技术世界的下一个挑战,而 HMI 是其中的核心。HMI 是一门研究人与机器如何交互以及如何使这种通信更顺畅、更高效的学科。
它有可能影响多个领域,包括游戏、医疗保健、增强现实(AR)和机器人技术。使用智能隐形眼镜进行眼球追踪是我们促进人机交互的方式之一。
智能隐形眼镜可以帮助监测各种健康参数,让与机器人的交流变得更容易,并提供更身临其境的 AR 体验,是一项相对较新的技术。这些依赖于使用瞳孔中心角膜反射和眼电图(EOG)等方法来跟踪眼球运动。
虽然这些方法取得了一些成功,但它们缺乏准确性并且容易受到干扰。此外,使用皮肤电极收集数据的眼电图已被证明对皮肤构成风险。这需要科学家采取新的方法。
为此,南京大学的研究人员提出了一种用于眼机交互的微型、不可感知的无线眼动追踪 SCL。精心设计的 SCL 采用频率编码策略和先进的球形保形制备技术,由 4 个不同工作频率的无芯片无源射频标签组成。
便携式扫频阅读器安装在框架眼镜上,与用户眼球相对,以无线方式收集标签信号。由于眼睛运动引起的可变耦合系数而改变多个标签的接收信号强度被用来跟踪注视点并输入眼睛命令。
图示:使用智能隐形眼镜 (SCL) 通过眼球追踪实现人机交互。(来源:论文)
安装在眼镜上、与用户眼球相对的便携式扫频阅读器可以同时收集标签信号。整个眼动追踪系统结构简单、重量轻,适合与 VR 头戴设备、AR 眼镜等其他可穿戴产品集成。
此外,眼动SCL采用基于隐式旋转校准方法的时序眼动跟踪算法,具有超高的眼动检测精度。方位误差<0.5°,甚至小于中央凹注视区域。
此外,SCL 对环境光和常见电磁干扰以及不同佩戴角度、角膜曲率和轻微变化的阅读距离表现出稳健性。使用眼动追踪 SCL 实现了两种交互应用。
一是在虚拟屏幕上连续写眼、画眼;NJU字母和蛇图案通过持续的眼球追踪被很好地描绘出来。
视频:用 SCL 玩贪食蛇。(来源:论文)
二是使用用户定义的眼睛命令与多种软件/硬件交互,例如贪吃蛇游戏、浏览网页和控制 PTZ 摄像头。
视频:用 SCL 浏览网页。(来源:论文)
眼动追踪 SCL 还具有检测 3D 眼动(包括眼球扭转)并监测睡眠中快速眼动以进行医学诊断的潜力。
在生物安全性方面很稳健
为了促进眼动SCL的实际应用,已经进行了体内验证测试和全面的生物相容性测试。
在实验中,活体兔子成功地通过眼球运动以无线方式实时驾驶机器人车辆。
视频:兔子驾驶机器人车辆。(来源:论文)
连续佩戴 SCL 24 小时或每周每天佩戴 8 小时后,兔子的角膜在裂隙灯测试、组织病理学测试和 OCT 测试中均未观察到异常。
并且,根据使用人角膜细胞系的细胞毒性测试,眼动追踪 SCL 与商用隐形眼镜一样安全。
有缺点但优点更多
图示:眼动追踪技术优缺点总结。(来源:论文)
总之,所提出的 SCL 具有出色的特性,包括:
(1)眼球追踪的高角度精度,甚至小于中央凹的视野范围;
(2)连续画眼、眼控游戏、网页交互、云台控制、机器人车辆驾驶等多种眼机交互模式;
(3)良好的综合生物相容性,如低细胞毒性、低眼刺激性。
频率编码 SCL 作为一种创新的可穿戴眼动仪,具有高精度、高稳健性和良好的生物相容性等优点,丰富了眼动追踪技术的方法。
眼机交互作为一种自然高效的交互方式,基于可穿戴眼动追踪技术,具有革新操作方式、给用户带来自然体验的巨大潜力。
科幻逐渐成为现实的未来
未来,SCL 可以进一步改进,以增强其在眼动追踪方面的实际应用。这可能涉及通过使用高导电透明电极(例如 AgNF/AgNW 混合网络)或通过优化智能设备的结构来增强灵活性和透明度。
SCL、阅读器和眼动追踪算法的协同优化对于简化校准过程,甚至实现免校准眼动追踪,从而提高可访问性至关重要。
此外,可以使用智能隐形眼镜并集成其他多功能模块(例如现场相机和传感器)来开发更专业的眼动追踪系统,以实现智能眼动追踪应用。
这些应用范围从消费者行为研究和虚拟社交环境中的眼睛互动到各种医疗用途,包括视觉功能评估、神经系统疾病诊断和治疗、认知功能评估和睡眠质量评估。
「随着光电技术的发展和光电器件柔性集成的提高,隐形眼镜将在人机交互和医疗健康方面实现越来越多的功能。」徐飞教授总结道。
这不仅将促进技术创新,还将对人们的生活质量产生积极影响。