一个机械臂把三串钥匙扣在桌上打乱,老人用手把它们重新排好,一个一直在听的AI开口点评刚才的表现。隔壁房间的照护者,随后收到一条简短记录。
![]()
这是ReMind,一个在DubHacks 2026上做出来的项目。团队里几个人家里都有患痴呆症或记忆衰退的亲属,常去老年中心。那里的工作人员会组织活动,目的是让老人保持参与感,延缓退化,至少别让情况更糟。
认知刺激就是这类活动的统称——一组让人动脑、动记忆的愉快活动,通常集体进行。它背后有研究支撑:2023年Cochrane的一篇综述(Woods等人)发现,对轻中度痴呆症患者有小幅、短期的认知益处。面向痴呆症的数字工具也不少,但相关综述反复指向同样的缺口。
团队针对四个缺口做设计:
- 不够个性化。一篇关于痴呆症数字辅助技术的综述综述,把个性化列为反复出现的难题。2026年一项体感游戏试点也指出,多数体感游戏系统缺少支持个性化照护的功能。
- 老人用不来。2026年一项针对轻度认知障碍老人的体感游戏可用性研究指出,现有体感游戏大多面向年轻人,对老年人不够友好。
- 人坚持不下去。据2026年一项试验摘要(AAN),机构内的锻炼对认知障碍者常常难以触达,最多有一半场次缺席,居家项目的依从性也低。一篇居家体感游戏的综述方案同样提到,依从性往往随时间下滑。
- 证据单薄。同一篇综述综述指出,随机试验的数量和质量都不足。更早一篇关于痴呆症体感游戏的综述只找到三项合格研究,样本极小。2020年一篇覆盖十项试验、702名参与者的综述发现,在七项低偏倚研究中认知益处一致存在,但时长、频率和平台差异很大。看起来有希望,细节没人定下来。
所以团队的目标是做基于认知科学的记忆唤醒游戏,并且按老年人的使用习惯来搭。全程只用说话,没有菜单。屏幕保持安静,一次只显示一张照片或几个词。照护者始终掌握主导权。至于为什么还要加一条真机械臂——因为一块屏幕不够。
团队明确不作出任何医疗声明:他们是工程师,不是临床医生。ReMind能做的是给每次会话留下朴素的记录,比如"聊到了和姐姐一起看猫王电影",让照护者或研究者有具体的东西可看。
四个组成部分
一个实时听、实时用短句回应的语音伙伴;一块安静的屏幕;一条带摄像头的机械臂;以及照护者——负责设置每次会话、事后读摘要,出现异常时收到短信。
要机械臂干什么?多数数字活动都藏在屏幕后面。机械臂让老人能用真实物体动手做点什么,活动本身保持极简,比如把三样东西排好序。团队也把它当成起点:打算随着时间教它更多策略(新技能),每一个都可能变成一个新的动手游戏。
主游戏怎么跑
- 机械臂在桌上打乱三串钥匙扣。
- 老人把它们按正确顺序摆回去。
- 摄像头读取刚摆出的顺序,校验返回一个朴素结果:对或错、原因、还剩几次机会。
- AI拿到这个结果,用大白话回应,比如"差一点!试试把最后两个换一下"。老人有三次机会,之后ReMind温和地给出答案。没有分数,没有计时器。
- 一行关于表现的记录发给照护者。那是观察,不是评分。
摄像头读取是实时的,也是团队最喜欢的一环。AI从不自己判定顺序对不对——它从摄像头看到的结果里拿结论,再把它转成一句善意的话。
给AI上缰绳
AI永远不发运动指令。它只能从一份短清单里请求动作,服务器逐条检查,机器人自己的软件在动之前再查一遍。这些规则写在代码里,不在提示词里,所以AI没法靠嘴皮子绕过去。"停"这个字根本不会到达AI——服务器先截住这个词,直接让一切停下。
教机械臂
团队想让机械臂用五种方式打乱黑、白、紫三串钥匙扣:左右互换、左中互换、中右互换、整体左移一位、整体右移一位。钥匙扣排在一行四个槽位里,第四个空着当停车位,因为机械臂总得有地方先放下一串。运作方式类似滑块拼图。
动作不是编程序写死的。机械臂是SO-101,一款便宜的开源型号,靠示例学习,有点像手把手教人变纸牌魔术:一个人手动移动"主"臂,第二只"从"臂复制每一个动作。
每次尝试用两台摄像头拍摄,一台从侧面看桌面,一台装在夹爪上。一次尝试35秒,一个电脑语音会告诉录制者下一步做什么("第3次,共4次。开始。""把物体复位。"),因为录着录着人就容易乱。他们录了60次尝试,每种打乱方式12次,上传到Perceptron的云平台训练。
然后是测试:在真实桌面上反复跑,数成功频率。如果在某个特定位置失败,比如某串钥匙扣放得偏左了一点,就针对这种情况补录示例再训练。
几条经验:
- 机械臂对环境很挑。桌面颜色、光照、摄像头角度在录制和使用之间必须一致,所以所有东西都用胶带固定住。
- 它会连你移动的速度一起复制。演示时动作要慢、要轻,因为它工作的地方有老年人。
- 一次糟糕的尝试会教出一个坏习惯,所以那些要重录。每次还要把钥匙扣稍微挪一点位置,否则东西稍有偏差机械臂就懵。
- USB连接不稳会丢摄像头帧,视频和动作就对不上。电机也可能过载报"夹爪故障",得断电重启。
- 只用柔软轻便的物体。没有玻璃,没有液体。真正的急停开关是电源键。
其余游戏靠语音
机械臂只是其中一个游戏。其余全部跑在语音上,基于Gemini的Live API,能边听边说,也允许打断。它们围绕认知刺激疗法的会话主题展开:
- 名人面孔:出现一张照片,ReMind问老人注意到什么、想起什么,然后揭晓名字。
- 谚语:ReMind起头说一句俗语("小洞不补……"),由老人接完。
- 声音:ReMind播放一段日常音效,然后问那是什么、让人联想到什么。
技术上,浏览器把老人的声音流到后端,后端再转给Gemini,API密钥不落在浏览器里。Gemini可以调用一份短工具清单(start_game、reveal、next_item、play_sound、show_message、note_response、end_game、stop、alert_caregiver),屏幕只显示这些工具放上去的内容。提示词要求它多问看法和回忆、少问事实,并且永远不考人、不纠正人。
实时语音的关键多半在于什么时候闭嘴。默认设置下它判定你说完得太快,一个话说到一半停顿的人会被打断。团队把语音结束的灵敏度调低,并等待1.2秒静默:
"realtimeInputConfig": {"automaticActivityDetection": {"endOfSpeechSensitivity": "END_SENSITIVITY_LOW", "silenceDurationMs": 1200}}
如果安静了25秒,后端会轻推Gemini温和地继续。连推三次仍无回应,就标记为沉默状态,让屏幕休息,而不是对着一把空椅子说话。
给照护者发短信
如果老人说了让人担心的话,团队希望照护者知道,又不吓到老人。这又是一个工具。Gemini判断某句话是否值得担心(疼痛、跌倒、恐惧、迷路感)。如果是,它调用alert_caregiver,附上一句朴素摘要、不含诊断,同时平静地安抚老人。护士在病人名字旁填入照护者手机号,短信长这样:
ReMind alert, 3:53 AM, Margaret: Said her chest hurts and she feels dizzy.
发送在后台进行,短信慢或失败都不会打断对话。
短信走Photon。它的SDK是TypeScript,而后端是Python,所以用一个小Node服务把请求转成iMessage。发送一直失败,报PERMISSION_DENIED: Target not allowed for this project。免费层下,项目只能给登记在项目里的手机号发短信。团队花了一小时怀疑自己的代码,直到试了Photon的入门项目——同样不工作。这才说明是账户设置问题。用第三方SDK,先跑他们的入门示例。
Gemini的判断是薄弱环节。它可能漏掉边缘情况,也可能对轻微的事过度触发,而且目前没有任何机制限制一次担忧能发多少条短信。
接下来
- 给机械臂更多技能。每教一个新策略,就可能多一个动手游戏。
- 一个照护者面板,为整屋老人展示朴素事实,而不是衰退评分。
- 适配每个人的游戏,这才是正面回应个性化缺口的做法。目前只是按人挑游戏、叫出名字。
- 知情同意与数据控制,以及在作出任何声称之前,先和照护机构、临床医生做一次试点。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.