上海
Meta对潜在高风险AI模型的担忧
2月4日，Meta发布了一份政策文件，表达了其对未来可能开发出具有“灾难性后果”的AI模型的担忧。该文件详细描述了公司计划采取的措施以防止这些模型的发布，但同时承认这些措施可能并不足以完全阻止潜在的风险。
定义高风险与关键风险AI系统
根据这份名为“Frontier AI Framework”的文件，Meta将AI系统分为两类：高风险和关键风险系统。高风险系统可能会使攻击变得更加容易实施，但不会像关键风险系统那样导致不可逆转的大规模破坏。关键风险系统则可能导致“灾难性后果”，即对人类造成大规模、毁灭性和不可逆的危害。
具体风险示例
文件中列举了一些具体的灾难性后果示例，包括但不限于：
- 自动化突破最佳实践保护的企业级计算机网络；
- 自动发现并利用零日漏洞；
- 对个人和企业实施全自动诈骗，造成广泛伤害；
- 开发和扩散高影响力的生物武器。
应对措施及局限性
Meta表示，一旦识别出关键风险，公司将立即停止相关模型的研发，并采取一切可能的措施防止其发布。然而，文件也坦率地指出，尽管会严格限制访问权限并加强安全防护，但并不能完全排除这些模型被泄露或发布的可能性。
结论
Meta的这一声明反映了公司在面对AI技术快速发展时所面临的挑战，既希望推动技术创新，又必须谨慎处理由此带来的潜在风险。
参考链接:
https://9to5mac.com/2025/02/04/meta-says-its-future-ai-models-could-have-catastrophic-outcomes/
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
