北京
分享至
当大部分AI企业都在追求算法精度和应用场景的拓展时，瑞莱智慧CEO田天却将自己的企业定位为一家AI安全公司。
随着大模型时代的到来，幻觉、偏见、数据泄露、被注入恶意指令等问题开始浮现。瑞莱智慧采取了攻防两端的策略。一方面，团队研发了红队模型，主动对市面上的主流大模型进行对抗性测试。另一方面，瑞莱智慧提供安全加固方案——给大模型装上“护栏”，确保其在任务中输出可信、可控、符合规范的内容。“随着具身智能的发展，我们希望在前沿领域持续开展安全相关的研究和技术研发，适时推出新的AI安全产品。”田天说。
08
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
