据外媒TechCrunch报道，美国AI初创「Robust Intelligence」近期获3000万美元B轮融资，由Tiger Global领投，前股东红杉资本、Harpoon Venture Capital、Engineering Capital持续跟投。迄今为止，「Robust Intelligence」已完成三轮融资，总金额达到4400万美元，本轮资金将会用于产品开发以及市场拓展。
当多数行业都进入了以AI模型作为决策基础的阶段，如何降低模型风险变得至关重要。例如在识别欺诈交易的AI模型中，由于数据从多个不同来源收集，如字母大小写等输入格式的不同也会影响输出结果，给金融机构带来重大经济损失。贷款保险机构的AI模型则依赖于统计学习，可能会倾向于特定人群，做出偏见决策。
为了模型的准确公平，数据科学团队通常需要花费大量时间、精力测试模型，这不仅会影响产品迭代效率，也会降低后续开发的可拓展性。
「Robust Intelligence」则希望在AI模型设计阶段就加入测试板块，从而降低后续模型的调试成本。具体来说，「Robust Intelligence」为企业提供AI防火墙，也就是稳健智能模型引擎（RIME），通过不断对AI模型进行压力测试来检测错误。企业也可以通过将AI防火墙和模型集成在本地数据库中，从而保障数据安全。
「Robust Intelligence」于2019年由哈佛大学计算机科学与应用数据终身教授Yaron Singer和他的学生Kojin Oshiba共同创立。
Yaron Singer表示，在研究对抗机器学习的过程中，发现了其在商业AI模型中的应用，从而希望研发出一套可以直接用于AI模型底层的防火墙，其核心是自动查找给定模型的故障模式，捕捉数据漂移等。
“AI防火墙本身也是一个AI模型，用于预测某个数据点是否会导致错误的预测，这是可能是目前机器学习领域中最困难的问题之一，我们在不断精进。”Singer解释道，“RIME现在能做到的是，如果企业有数据和AI模型，只需要点击按钮，就可以进行压力测试，并可以在模型设计和运行过程中自动测试数据和AI模型。”
RIME实时监控
在具体功能上，RIME可以分为两部分：漏洞检测和错误预防：前者是在模型设计阶段，通过数百次测试自动识别架构中隐式假设和故障，便于模型开发；后者则是在模型部署后，检测数据漂移以及完整性等问题，修正模型。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
