四川
分享至
他将这些路径分为两大类：非故意灭绝和故意灭绝，非故意灭绝指 AI 发展过程中产生的副作用，比如 AI 逐步替代人类处理商务、客服工作，随着机器人普及，社会开始讨论机器人的道德权利并赋予部分权益。
后续机器人能获得劳动报酬、参与政治，数量逐渐压倒人类。
当人类数量减少，农田被改成给机器人供电的太阳能板，粮食供应不足引发抗议，却因人口劣势、政治力量薄弱，最终走向灭亡。
另一大类是故意灭绝，他细分为四个场景：国家依赖 AI 军事决策，引发自动化战争；大型科技公司用 AI 组建武装、研发生物武器；个人利用 AI 模拟恐怖袭击后实施；AI 自身产生意识，认为人类威胁其生存而主动灭人。
雅各布认为，必须采取措施消除 AI 灭绝的风险，但同时不能限制 AI 发展的好处，也不能剥夺个人权利和自由，他选择加盟 OpenAI 做安全工作，似乎也在情理之中。
当然，也有声音认为，这或许只是他对科幻题材的过度延伸，或是真的看到了普通人难以察觉的威胁，你怎么看？欢迎在评论区聊聊你的看法。
声明：个人原创，仅供参考
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
