北京
分享至
据悉，微软AI首席执行官穆斯塔法·苏莱曼警告，表面有意识的AI（SCAI）可能很快出现，其表现和声音极为逼真，用户将难以分辨虚幻与现实。他指出，AI能模拟记忆、情感镜像甚至表面共情，可能让用户误以为其有感知能力，从而将其当作有意识的存在对待，这将导致混乱局面。
苏莱曼强调，SCAI的到来既不可避免，也不受欢迎。他呼吁开发一种可以成为有用伴侣但不陷入幻觉的AI。他还指出，用户与聊天机器人长期互动后可能产生妄想信念，若大量人被误导去倡导AI公民身份，将带来反乌托邦的社会风险。
苏莱曼预测，结合大语言模型、语音表达、记忆与聊天记录的SCAI系统可能在几年内出现，不仅科技巨头，任何拥有API和优质提示的开发者都可能开发出此类系统。他呼吁AI行业避免使用助长机器意识幻觉的语言，不应将聊天机器人拟人化或暗示其理解或关心人类。
他强调，应开发优先与人类和现实世界互动的AI，确保AI始终呈现为AI，最小化意识特征，避免制造“意识模拟”的AI，不应声称拥有体验、感受或情绪，也不应通过声称受苦或希望自主生存来触发人类共情。他还呼吁建立防护机制，避免社会因人们对AI产生情感依赖而出现问题。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
