谷歌前“点击欺诈沙皇”推出设备端AI盾牌，抵御AI诈骗

舒曼·戈塞马朱姆德在谷歌因“反点击欺诈”而声名鹊起，他搭建了一套系统，防止网络犯罪分子蚕食公司的广告业务。之后，他加入了网络安全公司Shape Security，是公司最早的一批员工，该公司的软件旨在阻止黑客利用虚假账户或盗取的用户名和密码操控自动化程序实施欺诈。2020年，F5以10亿美元收购了该公司。

如今，戈塞马朱姆德带着一家新初创公司回归，旨在应对他所说的AI时代最大的安全威胁：在线通信信任的崩溃。他的公司Reken在秘密开发两年后，于今日正式亮相，推出一个在设备本地运行的AI安全平台，以及该平台的首款产品——一款名为Northstar的反钓鱼、反欺诈工具。

Reken的平台，称为Reken Private Core，是一个由自研的小型AI模型组成的系统，直接在用户设备上运行，而不是将通信路由到云端。虽然一些竞争对手，如网络安全初创公司Abnormal和Doppel，使用AI分析通信，但大多数公司都是把数据传输到云端服务来完成的。

戈塞马朱姆德表示，把数据传到云端，不仅会增加数据泄露的风险，还可能因为延迟让用户抓狂。其中一些网络安全公司还使用来自OpenAI、Anthropic和Google DeepMind等提供商的AI模型，这同样意味着额外的开销。据报道，谷歌和苹果也都在开发能在设备本地运行的AI钓鱼检测软件，但两家公司都还没有正式推出产品。

戈塞马朱姆德表示，研发的核心挑战在于证明Reken的人工智能模型能够在普通硬件上——即没有GPU的标准企业笔记本电脑——快速产出高质量结果，快到足以实时拦截威胁。

“你可以拿一个大语言模型，想办法把它量化，让它用更少的资源就能跑，还能在没有GPU的机器上跑，但如果它跑起来还是跟完整版大语言模型一样慢，那它就没法在需要的时间内出结果，”戈塞马朱姆德告诉《财富》杂志。“但我们能做到的是两者兼得。”

戈塞马朱姆德表示，Northstar是首个基于Private Core构建的产品，旨在取代企业安全意识培训，他认为这种培训基本没什么用，尤其是在网络钓鱼和授权推送支付欺诈变得越来越高明的情况下。“我们不该逼着员工变成数字取证调查员，”他说。“我们需要的是能识别人眼看不到的威胁的即时AI。”

虽然一些工具试图通过使用其他AI模型来检测AI生成的邮件和消息，以此减少AI驱动的欺诈，但鉴于企业采用AI工具处理业务任务的速度，这种方法已经过时。大多数AI生成的文本是无害的——比如有人让聊天机器人起草一封电子邮件——因此，用“是否由AI生成”作为安全信号，毫无意义，Ghosemajumder说。相反，Northstar还依靠正向验证信号，例如验证消息是否真正来自银行或零售商等合法发件人，这样用户就不用自己去猜一封号称来自亚马逊的邮件到底是不是真的了。

Ghosemajumder于2024年与他在Shape Security的前同事Rich Griffiths共同创立了Reken。该公司从包括Greycroft和FPV Ventures在内的多家风险投资公司获得了1000万美元的种子资金。

Reken想要解决的这个问题，正在迅速恶化。FBI的互联网犯罪投诉中心在2025年记录了209亿美元的网络犯罪损失报告——仅一年就增长了26%——并首次将AI相关犯罪单独列为一个类别，记录了超过22,000起投诉。加拿大皇家银行2026年的一项民意调查发现，83%的人现在默认任何网上来的消息都是骗局，除非能证明不是。

“互联网不安全，而且有了人工智能之后，一天比一天不安全。现在的骗术太高级了，人根本识别不出来，”戈塞马朱姆德说道。

他补充说，专家也逃不掉：“你可以骗过任何人——连你我这种天天接触这些东西的人都能骗到。你只要趁我们分心的时候，说一些跟当时情况对得上的话，给我们足够的压力，我们也会上当。”

戈塞马朱姆德表示，Reken 已经遭遇过用人工智能搞的诈骗。公司有个实习生入职第一周就收到了冒充戈塞马朱姆德的消息——这是因为犯罪分子爬取了领英上的信息，理清了新员工的上下级关系，精准找到了该冒充谁。

Reken 更大的野心不只是保护单个设备，而是把这些单独部署串联起来，组成它所说的 Reken 网络。一个组织用了 Northstar 之后，内部通信就变得可验证；当它的供应商和合作伙伴也跟着用起来，就加入了一个不断扩大的“保护圈”。Ghosemajumder 把这种模式比作苹果的 iMessage，把世界分成可信的蓝色气泡和其余所有人——但他表示，Reken 在确保网络内通信可信这一点上能做得更远。

他坦承，在这张网络中运用数据会引发隐私问题——他说这些问题他在谷歌的时候就纠结过，并在那里联合创立了一个内部隐私委员会。他说，Reken 的计划是把威胁情报汇总起来并做匿名化处理，以便网络变得更智能，同时不侵犯单个用户的数据。

Northstar 从周一开始开放早期访问，面向企业、政府机构和大学。Ghosemajumder 表示，该产品已经在财富 500 强企业的环境中测试过，但他拒绝透露客户是谁。更多产品正在开发中，公司计划让第三方在 Private Core 上面开发自己的产品。

Reken能否兑现其信任层的设想还有待验证——它所设想的网络效应取决于能否被广泛使用。但其创始人押注的是，在一个——用他的话说——任何人都可能被骗的世界里，唯一能防住的办法，就是有一个够快、够私密的AI，不用离开你的设备就能帮你盯着背后。

更正声明（7月13日）：本文早前版本误将Shuman Ghosemajumder列为Shape Security的联合创始人。他其实是早期员工，并非联合创始人。