上海
图灵奖得主对AI安全表示担忧
2024年图灵奖得主、马萨诸塞大学研究员安德鲁·巴尔托（Andrew Barto）和前DeepMind研究科学家理查德·萨顿（Richard Sutton）在获奖后，公开表达了对人工智能（AI）快速发展的安全隐忧。图灵奖被誉为“计算机界的诺贝尔奖”，今年的奖项表彰了他们在“强化学习”领域的贡献，这一技术是现代AI系统的核心。
AI公司过于追求利润忽视安全测试
巴尔托和萨顿指出，许多AI公司在产品发布前并未进行充分的安全测试，这种做法类似于“建造桥梁并在人们使用时才进行测试”。他们认为，AI公司更多地受到商业利益驱动，而非安全考虑。巴尔托特别强调：“向数百万用户发布未经充分测试的软件不符合良好的工程实践。”
行业专家呼吁重视AI风险
此前，AI领域的其他权威人物如约书亚·本吉奥（Yoshua Bengio）和杰弗里·辛顿（Geoffrey Hinton）也对AI的安全性提出过警告。2023年，一群顶级AI研究人员、工程师和CEO联合发表声明，呼吁全球将减少AI带来的灭绝风险作为优先事项。OpenAI首席执行官山姆·阿尔特曼（Sam Altman）也曾因过度商业化而受到批评。
此次图灵奖得主的发声再次提醒业界，AI的发展不应只追求速度和利润，更应注重安全性和社会责任。
参考链接:
https://www.theverge.com/news/624485/turing-award-andrew-barto-richard-sutton-ai-dangers
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
