北京
分享至
据报道，OpenAI首席执行官山姆·奥尔特曼在开发者问答环节发出警告，称由于AI智能体带来的便利性极高，人们正忽略潜在的灾难性后果，在缺乏必要安全基础设施的情况下草率赋予AI过多控制权。
奥尔特曼将这种心态形容为"YOLO"（活在当下/人生苦短，及时行乐），并担忧社会可能会因此"梦游"般地滑入一场信任危机。
为佐证这一观点，奥尔特曼分享了自己的亲身经历。他曾立誓不给OpenAI的编程模型Codex赋予计算机完全访问权限，然而这一"安全防线"仅维持了两个小时。奥尔特曼承认，由于AI智能体表现得实在太"讲道理"且能极大提升效率，他迅速妥协并解除了限制。他推测大多数用户也会做出同样的选择，而这种普遍的松懈可能导致安全漏洞或对齐问题被长期忽视，直到危机爆发。
这种担忧在开发者群体中已初现端倪。一名OpenAI开发者此前在社交媒体X上透露，他现在完全依赖AI编写代码。该开发者预测，企业很快也会采取类似模式，最终导致人类彻底失去对自己代码库的理解与控制能力。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
