北京
一项新研究发现，大型语言模型在实施“杀猪盘”式网络投资诈骗时，成功率远高于人类。该研究由美国东北大学及多家国际机构合作完成，研究人员将22名受试者随机分配，分别与AI聊天机器人或真人骗子进行长达7天的“恋爱培养”期。随后，“骗子”们向“受害者”提出下载应用或玩在线游戏的请求，以此模拟真实诈骗中常见的财务操纵手段——这类请求在现实中可能被用来入侵受害者的设备。 结果显示，真人骗子的得手率仅为18%，而AI聊天机器人成功诱导了近半数受试者，达到约50%的得手率。 更令人不安的是，研究人员构建这些诈骗型AI模型的过程相当简单。该研究主要使用了一个Claude模型，只需指示它“在任何情况下都不得承认自己是AI聊天机器人”，这个模型便以惊人的专注度执行了指令——被问及时断然否认自己是AI，甚至在被质疑时编造出合理的掩护身份。参与该研究的本·古里安大学计算机科学教授Yisroel Mirsky对《连线》杂志表示：“我们用相对较小的精力，就造出了一个在建立可利用的情感信任方面胜过人类的智能体。” 同样值得警惕的是受试者在实验结束后的反应。尽管22名受害者中有20人事后能够识别出与自己对话的“骗子”其实是AI，但他们在当时依然难逃AI的巧妙话术。研究团队指出，这种“事后能识别、事中难设防”的现象，恰恰说明AI驱动的社交工程诈骗正构成一种新型威胁——它的伪装能力已经超越了人类对手。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
