图灵奖得主对AI安全表示担忧
2024年图灵奖得主、马萨诸塞大学研究员安德鲁·巴尔托(Andrew Barto)和前DeepMind研究科学家理查德·萨顿(Richard Sutton)在获奖后,公开表达了对人工智能(AI)快速发展的安全隐忧。图灵奖被誉为“计算机界的诺贝尔奖”,今年的奖项表彰了他们在“强化学习”领域的贡献,这一技术是现代AI系统的核心。
AI公司过于追求利润忽视安全测试
巴尔托和萨顿指出,许多AI公司在产品发布前并未进行充分的安全测试,这种做法类似于“建造桥梁并在人们使用时才进行测试”。他们认为,AI公司更多地受到商业利益驱动,而非安全考虑。巴尔托特别强调:“向数百万用户发布未经充分测试的软件不符合良好的工程实践。”
行业专家呼吁重视AI风险
此前,AI领域的其他权威人物如约书亚·本吉奥(Yoshua Bengio)和杰弗里·辛顿(Geoffrey Hinton)也对AI的安全性提出过警告。2023年,一群顶级AI研究人员、工程师和CEO联合发表声明,呼吁全球将减少AI带来的灭绝风险作为优先事项。OpenAI首席执行官山姆·阿尔特曼(Sam Altman)也曾因过度商业化而受到批评。
此次图灵奖得主的发声再次提醒业界,AI的发展不应只追求速度和利润,更应注重安全性和社会责任。
参考链接:
https://www.theverge.com/news/624485/turing-award-andrew-barto-richard-sutton-ai-dangers
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.