浙江
韩国科学技术院（KAIST）与微软亚洲研究院合作开发出一种新型脑机接口技术，能够通过分析人类脑电波实时识别人工智能是否误解了用户意图，并据此调整自身行为。研究团队认为，这项技术有望推动人工智能从“听从指令”迈向“理解意图”的新阶段。
研究人员将这项技术命名为“神经价值对齐（Neural Value Alignment，NVA）”。该系统利用脑电图（EEG）监测用户在观察人工智能执行任务时产生的神经活动。当AI采取了错误目标或执行了并非用户期望的行动时，大脑会产生特定的预测误差信号，系统能够捕捉这些变化，并将其转化为反馈信息，让AI意识到自己理解出现偏差。
长期以来，尽管人工智能在许多领域展现出强大能力，但人类与AI的沟通仍经常出现误解。用户即便给出详细提示，AI也可能生成与预期相关却并不准确的结果。研究团队认为，问题根源在于人工智能主要依赖语言、动作和手势等外部信息推断意图，而这些行为本身往往存在模糊性。
研究人员举例说明，同样是拿起一个杯子，一个人可能是为了喝水、清洗杯子、移动位置，或者递给别人；反过来，如果目标是解渴，人们也可以通过拿杯子、拿水瓶或请别人帮忙等不同方式实现。仅观察行为本身，往往无法准确判断真实目的。
为了解决这种“目标与行动模糊性”问题，研究团队将注意力转向人脑自身。当现实结果与人的预期不一致时，大脑会自然产生特殊的预测误差信号。NVA系统正是利用这种神经反应作为额外信息来源，从而帮助人工智能判断自己究竟在哪个环节出现理解偏差。
研究团队重点利用了两类脑神经信号。一类是“奖励预测误差”，反映结果是否符合个人目标和价值预期；另一类是“状态预测误差”，反映实际发生的情况是否与大脑预想的过程一致。通过同时分析这两种信号，系统不仅能够发现AI理解错误，还能够判断错误究竟出现在目标层面还是执行方式层面。
实验结果显示，在引入脑电反馈后，人工智能能够更准确地推断用户真正的意图，并在任务执行过程中主动修正偏差，而不需要用户不断重复说明或发出新的指令。
研究团队表示，这项成果有望应用于机器人、人机协作系统以及智能助手等场景。例如未来的家用机器人在执行任务时，如果察觉到用户脑中出现“这不是我想要的结果”的反应，便可以主动调整行动方案，而无需等待明确指令。
研究人员认为，这意味着人工智能未来可能不再只是被动响应命令，而是能够借助脑机接口技术理解人类隐藏在语言背后的真实意图，从而实现更加自然和高效的人机协作。随着相关研究持续推进，能够感知人类认知反馈并实时修正行为的下一代智能系统或许正在逐步成为现实。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
