最近脑机接口的产品研发开始了,前段时间我就分享过我们团队的第二个空间应用APP正式上线了。
在空间计算应用上,我们可能是第一批的空间研发团队,其中在医疗行业上线的2个APP,已经得到了下载,目前也在不断的迭代更新。
在脑机接口的开发商,由于vision OS的数据隐私性,并没有开放眼球追踪数据,所以我们团队计划使用安卓XR来完成BCI的集成。
正在我们打算all in AndroidXR的时候,上周我的团队收到了苹果的小伙伴给的最新vision OS接口信息。
他们上线了BCI的接口,现在vision OS26 以及iOS、IPADOS,也就是说IPAD、iPhone等都可以接入脑机接口了。
![]()
注意的是非植入式脑机接口,允许将非植入式脑机接口类似鼠标、键盘一样接入进去,允许开发者将其关联,并且目前在BCI接口里开放了5个内容,分别通过辅助功能接入、以及苹果设备系统数据输出,并且使用的是HID声明,开发者可以将脑机接口设备开发成为不需要驱动的、SDK、直接授权的外接硬件。
脑机接口BCI官方接口支持的交互组件与交互形式
目前官方接口通过辅助功能入口,支持界面UI扫描轮训、按钮点击、下拉选择的鼠标滑动、以及收集vision Pro的系统数据反馈给BCI。
五个能力的HID 解读
本次一共有5个接口ID,分别是ID1-ID5,我们依次讲解下,并且在产品设计上脑机接口产品经理可以做什么场景的开发。
HID 描述符定义了 BCI 硬件设备可以输入和输出的内容。它定义了以下输入和输出报告:
报告 ID 1:BCI 输入信号报告
报告 ID 2:BCI 输入按钮报告
报告 ID 3:BCI 输入指针报告
报告 ID 4:BCI 输入项目选择报告
报告 ID 4:BCI 输出扫描信息报告
1.BCI输入信号报告
![]()
这个报告提供了 BCI 硬件设备所采集神经信号的可解释性与保真度的实时数据。
这些信息有助于主机计算设备通过可视化指示为用户提供即时反馈。
当主机计算设备接收到“信号质量”消息时,它可以在界面中将该信息展示出来。
例如,在 iOS 中,当Switch Control光标聚焦在某个元素上时,系统会通过动画叠加层来可视化显示这一信息。
2.BCI 输入按钮报告
![]()
该报告允许 BCI 硬件设备模拟按钮的按下与释放。这些按钮事件既可以用于发送基础系统输入(例如导航操作或执行选择),也可以用于触发与主机操作系统相关的高级系统操作。
![]()
主机计算设备可以将这些按钮事件映射到辅助功能特性(例如 Switch Control),或者映射为各种操作,例如:
将当前元素标记为已选择
导航到下一个元素
导航到上一个元素
或执行其他自定义命令
报告 ID 3:BCI 输入指针报告
![]()
该报告的作用是充当屏幕上的光标,用于诸如Switch Control等功能。它可以是二维(2D)或三维(3D)指针。
![]()
vision pro设备可以利用这些信息来:
移动屏幕上的光标
在主机支持的情况下,以绝对坐标方式控制“点扫描器(point scanner)”
在 iOS、iPadOS 和 visionOS 中,Switch Control支持这种模式,并通过滑动光标(gliding cursor)来实现。
这使得 BCI 设备可以手动控制指针。
报告 ID 4:BCI 输入项目选择报告
![]()
该报告允许 BCI 硬件设备直接影响无障碍功能中的元素选择(例如 Switch Control)。
通过发送一个特定的itemIndex(项目索引),BCI 硬件设备可以指示主机计算设备激活某一个特定的 UI 元素。
BCI 硬件设备可以通过观察与“项目选择”相关的输出报告(output reports),来理解当前的 UI 上下文,从而判断应该选择哪一个项目。
报告 ID 4:BCI 输出扫描信息报告
![]()
该报告允许主机计算设备(例如启用了Switch Control的 iPhone)向 BCI 硬件设备提供反馈与上下文信息,说明当前基于时间间隔的顺序导航过程的状态,这种过程也被称为开关扫描模式(switch scanning mode)。
BCI 硬件设备可以利用这些信息来:
理解当前扫描循环的上下文(例如:可选项目数量、控件类型)
通过BCI 输入项目选择报告(Report ID 4)来选择项目
根据当前被聚焦的项目,动态调整自身行为
以上就是本次的5个接口报告,我们就可以构建vision Pro再BCI接口上的选中操作,从而让用户完成空间快捷操作。
如下是脑机接口的SSVEP范式
![]()
最后通过vision Pro的BCI接口,可以实现意图识别,通过脑电选中具体的UI界面与元素,而不需要再单独去让脑电信号转化为鼠标与键盘,从而得到意图识别的信号。而在vision OS里面给了具体UI的对象名称,不需要再转化为鼠标与键盘,比如下面的各自元素,在vision OS系统里知道每个元素的序号,用户只需要查看到每个元素,visionOS官方接口会将其选择的按钮元素对应的序号给到开发者,开发者再和脑机BCI信号匹配。
用户想选什么对象元素,正确了,才会展示对应的元素
![]()
![]()
总结来说,这就是vision OS与安卓XR可以提供的能力,将其用户意图来完成系统化转化。
传统:射线/凝视点(X,Y) → 对准按钮 → 点击
现在:直接发送对应UI元素的 itemIndex = k
这对脑机接口产品经理是革命性的,在交互层面上更加体验人类意念与数字世界的真实联动,毕竟在真实世界里,我们也是看中那个按钮再用肢体去选中。
一句话总结
过去是:
脑机接口在模仿手
现在是:
脑机接口在表达意图
这就是革命性所在。
题图来自 Unsplash ,基于 CC0 协议, 如有侵权,请联系pmtalk123删除
“分享产品经理改变世界的点滴”
产品顾问| 产品咨询|培训合作
请添加微信PMxiaowanzi
最近我的原创
每日案例拆解库,AI等产品打卡群
我创建的产品设计打卡社群,加入后365天,每天体验一款APP。提升产品设计能力,同时有1300份体验报告帮助你找到竞品
在这里你可以随时查询到你想找的各类竞品行业APP,无须自己亲自下载就可以马上得到APP的一手产品优化、交互设计、功能描述信息。
从优化&建议、商业模式、运营、功能描述、交互设计、产品定位至少6个维度,体验一款应用。
平均1天1块钱,扫码购买即可加入
连续体验48款应用,通过后原路退回
报名后添加星球助理
PMTalk123
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.