听起来怪吓人！科学家发出AI警告，AI将进入“奥本海默时刻”？

综述

现在的AI技术是越来越厉害了，AI可以写诗作画，可以唱歌配音，可以生成以假乱真的视频，甚至在医院里，AI已经开始辅助医生诊断疾病。这一切发生速度之快，让很多人都还没来得及理解和适应。

在各种类型的AI带来生产力变革的同时，伴随的是越来越多的忧虑。很多科学家警告称，当下的我们，或许已经站在了AI的“奥本海默时刻”。

什么是“奥本海默时刻”

“奥本海默时刻”这一词的来源，要追溯到二战时原子弹的发明者J.罗伯特·奥本海默。

1945年7月16日清晨五点24分，美国新墨西哥州阿拉莫戈多沙漠试验场爆炸了人类历史上第一颗原子弹。从这一刻起，世界被彻底改变，一切都不再是曾经的样子。

因为自原子弹诞生的那一刻起，它就犹如一道无法摆脱的魔咒，深深镶嵌在人类文明的心脏。无论科技如何发展，核战争的阴影始终笼罩在世界之上。

正是这场武器技术的革命，塑造了“奥本海默时刻”这一概念——人类站在了一个未知的边缘，前方的道路充满了凶险，过去的经验已经失效，只能摸索着前进，你也无法知晓下一刻等待你的是新的希望，还是无休止的灾难。

今天，随着人工智能技术的不断发展，人类也许正处在另一个“奥本海默时刻”的边缘，就像核武器的诞生让科学家们担心可能引发的全球灾难一样。

现在的AI，尤其是自主性很强的通用人工智能（AGI），它们的“智慧”越来越接近人类，它们的潜力和危险性也逐渐开始超出我们原本的想象。这些AI系统的能力，行为和决策，可能在不久的将来对我们的社会产生深远的影响。

一旦这些技术失控，所带来的后果可能比核武器更加可怕，许多专家和科技领袖已经对此深表担忧。

OpenAI的CEO山姆·阿尔特曼，AI领域专家斯图尔特·拉塞尔，SpaceX创始人马斯克等一众科技大佬都认为，若放任AI技术无序发展，必将给社会造成难以预测的巨大风险。而当前亟需建立严格的监管机制，确保AI的发展始终处于人类的可控范围内。

战场上的AI武器

当你还在担心AI会不会抢走你的工作时，你可能不知道，有的AI已经悄然进化成了杀人机器，走向了战场。

今年4月，有以色列媒体称，以军方正在测试一款名为“薰衣草”的AI作战系统，这一作战系统已将3.7万名巴勒斯坦人列为作战目标。以军的设想是，AI系统在猎杀一名敌军高级官员的同时，附带杀死的平民人数最好低于100人。

美国的相关媒体则报道，以军在战场上投放的弹药，有一半是非精确性导弹，会附带造成大量的平民伤亡。以色列调查记者亚伯拉罕则透露，以军之所以大量使用非精确性导弹，是因为AI分析某些目标“价值不高”，为了成本考虑没必要使用精确导弹。

同时，据福克斯新闻网报道，去年10月份，乌克兰无人机公司萨克尔已经在战场上投入了一款自主AI无人机，在AI的操控下，无人机可以自行决定要杀死哪些目标。

设想一下，如果这类AI武器未来大规模投入战场，又会是怎样的形势。战争变成了机器间的较量，AI开始决定人的生死，战争的道德底线将变得模糊。

机器没有人类的情感和伦理观念，它们会按照预定程序冷血地执行任务，在决策过程中可能会为了取得更大的“战争收益”，完全不顾人的尊严和价值，忽视人类的基本权利，而现有的国际人道法和战争法也无法规范这些自动化系统。

再设想一个更可怕的情况：如果AI武器被恐怖分子获取，或者恐怖分子恶意入侵这些AI武器系统，屠杀平民，制造灾难将变得更加容易，战争的规模和速度可能在一瞬间失控，造成的损失无法预估。

这些可怕的后果，正是人类目前所创造的AI在跨越“奥本海默时刻”后，极有可能出现的情景。

人类该如何应对

随着AI在战争，医疗，工业自动化等关键领域的应用逐步深入，它所带来的潜在风险也愈发显现。如果不及时采取有效措施，这些风险可能会逐渐失控，甚至威胁到人类的生存和社会的稳定。

为了避免AI失控可能带来的可怕后果，首先，全球范围内的AI监管必须尽早加强。各大科技公司和各国政府应该联合起来，共同制定和实施相关的法律与监管框架，确保AI技术能够在安全可控的轨道上发展。

特别是对于自主武器等领域，国际社会应尽早达成共识，就像此前的《不扩散核武器条约》一样，禁止自主致命武器的研发与部署，以避免它们在未来的战争中引发无法预估的灾难。

其次，各类AI系统的“对齐颗粒度”也很重要。所谓“对齐”，就是确保AI的决策和行为符合人类的价值观和道德标准。为此，开发者在设计AI时就必须对AI进行严格的伦理审查，确保每个AI系统都能在实际应用中对人类社会产生积极的影响。

最后，科学家和技术开发者要时刻牢记“责任”这一原则。所有AI技术的研发都必须谨慎小心，确保其不会被恶意利用。在开发AI系统时，开发者必须要始终将人类的控制权放在首要位置，防止AI系统脱离人类的掌控，造成无法收拾的局面。

这些原则和要求，不仅是对技术本身的规范，更是对整个人类社会的责任和担当。

结尾

正如核弹改变了战争规则一样，AI的崛起也在悄然重塑权力，责任与道德的边界。人类站在这个新的“奥本海默时刻”面前，既是技术的受益者，也是其潜在灾难的见证者。那么，我们是否已经准备好迎接这个充满不确定性的未来？

未来充满风险，但也蕴藏着无限可能。我们能否在这场技术革命的浪潮中，找到一条既能造福人类又不致带来威胁的道路？这个问题的答案不在于技术本身，而在于我们人类自己。毕竟，当下人类文明这艘大船的舵手，依然是我们自己。

最后，由于平台规则，只有当您跟我有更多互动的时候，才会被认定为铁粉。如果您喜欢我的文章，可以点个“关注”，成为铁粉后能第一时间收到文章推送。