Frontier AI 伦理（全文近万字）

转载声明：除调整格式外，不得对原文做改写、改编。原创不易，谢谢！E-mail:yellow@aliyun.com

♥声明：本文为原创文本，非生成式，转载请注明出处！

商务咨询/顾问/请@yellowscholar♥作者：黄先生斜杠青年

#时间深度 ＃计算和人工智能 ＃伦理学 ＃未来

图片通过AI生成

生成代理将以奇怪、美妙和令人担忧的方式改变我们的社会。哲学能帮助我们掌握它们吗？

大约2年前，生成式 AI 风靡全球，因为非常强大的大型语言模型 （LLM） 在比以往任何时候都更广泛的任务中实现了前所未有的性能。尽管 OpenAI 的 GPT-4 和 Google 的 Gemini 等 LLM 以生成令人信服的文本和图像而闻名，但作为复杂系统的执行中心，这些系统集成了额外的工具，用于了解世界并采取行动，可能会产生更大的社会影响。这些生成代理将为引入新社会关系类别的伴侣提供动力，并改变旧的社会关系。它们很可能会从根本上改变注意力经济。它们将彻底改变个人计算，使每个人都能仅用语言控制数字技术。

我是斜杠青年，一个PE背景的杂食性学者！♥致力于剖析如何解决我们这个时代的重大问题！♥使用数据和研究来了解真正有所作为的因素！

对生成式人工智能系统的大部分关注都集中在它们如何复制已经广泛部署的人工智能系统的病态上，认为它们集中了权力和财富，无视版权保护，依赖剥削性劳动实践，并使用了过多的资源。其他批评者强调，它们如何预示着可能威胁人类生存的更强大的未来系统。第一组说这里没有什么新东西;另一组透过现在看向可能遥远的地平线。

相反，我想关注这些特定系统的独特之处：它们非凡的科学成就，以及它们在未来 5 到 10 年内最有可能和最重要的方式改变社会。

首先回顾一下 LLM 的工作原理，以及它们如何用于制作生成代理，可能会有所帮助。LLM 是一个大型 AI 模型，在大量数据上进行训练，具有大量的计算资源（大量 GPU），用于在给定单词序列（提示）的情况下预测下一个单词。该过程首先将训练数据分块为大小相似的“标记”（单词或单词的一部分），然后对于一组给定的标记，掩盖其中的一些标记，并尝试预测已被屏蔽的标记（因此模型是自我监督的——它标记自己的工作）。底层标记分布的预测模型是通过将其传递到神经网络的多个层来构建的，每一层都在某个维度或其他维度上完善模型以使其更加准确。

这种对自然语言进行建模的方法已经存在了几年。最近的一项关键创新是采用这些“预训练”模型，这些模型基本上只擅长在给定一系列标记的情况下预测下一个标记，并针对不同的任务对其进行微调。这是通过对标记数据的监督学习来完成的。例如，您可以通过使用许多对问题的有用回答示例来训练预训练模型成为一个好的对话代理。这种微调使我们能够构建模型，这些模型不仅可以预测最可能的下一个标记，还可以预测最有用的标记——这更有用。

当然，这些模型是在包含大量有毒和危险内容的大量互联网数据语料库上训练的，因此它们的帮助是一把双刃剑！如果被问到，一个有用的模型会帮助你如何制造炸弹或自杀。另一个关键创新是使这些模型不太可能共享危险信息或生成有毒内容。这是通过监督学习和强化学习完成的。事实证明，来自人类反馈的强化学习 （RLHF） 特别有效。在 RLHF 中，为了再次简化，该模型对给定的提示生成两个响应，人工评估员根据某些标准确定哪个比另一个更好。强化学习算法使用该反馈来构建一个预测器（奖励模型），用于描述人工评分者如何评估不同的完成情况。然后，根据该奖励模型对指令调整的 LLM 进行微调。使用 AI 反馈的强化学习 （RLAIF） 基本上做同样的事情，但使用另一个 LLM 来评估提示完成。

当收到邀请它进行一些数学运算的提示时，它可能会决定调用计算器

因此，我们现在已经使用监督学习对预训练模型进行了微调，以执行某些特定功能，然后使用强化学习来最大限度地减少其行为不良的可能性。然后，这个微调的模型被部署到更广泛的系统中。即使开发人员提供了一个简单的应用程序编程接口 （API） 来调用模型，他们也会合并输入和输出过滤（以限制有害的提示，并编辑有害的完成），并且模型本身会受到进一步的开发人员指示，提醒它以一致的方式响应提示。借助 ChatGPT 等应用程序，多个模型被集成在一起（例如，用于图像和文本生成），用户界面设计的更多元素位于顶部。

这给出了生成式 AI 系统的基本描述。它们建立在自然语言建模的重大突破之上，以令人印象深刻的模拟人类作家的方式生成文本，同时利用比任何人类都多的信息。此外，许多其他任务可以通过仅经过训练来预测下一个标记的模型来学习，例如，语言之间的翻译、一些数学能力和下棋的能力。但最令人兴奋的惊喜是 LLM 能够通过微调使用软件工具来实现特定目标。

基本思想很简单。人们使用文本编写程序，对其他程序进行 API 调用，以达到他们无法实现的目标。LLM 非常擅长复制人类使用的语言来执行特定功能。因此，可以训练 LLM 来确定 API 调用何时有用，评估响应，然后根据需要重复或更改。例如，LLM 可能“知道”它可能会犯基本的数学错误，因此，当收到邀请它做一些数学运算的提示时，它可能会决定调用计算器。

这意味着我们可以设计增强的 LLM，即生成式 AI 系统，它们调用不同的软件来放大它们的能力或弥补它们所缺乏的能力。例如，LLM 是“无状态的”——它们在“上下文窗口”（留给提示的空间）之外缺乏工作内存。使用工具的 LLM 可以通过连接到外部内存来弥补这一点。外部工具还可以实现多步推理和行动。例如，ChatGPT 可以调用一系列插件来执行不同的任务;据报道，Microsoft 的 Bing 有大约 100 个内部插件。

因此，“生成代理”是一种生成式 AI 系统，其中经过微调的 LLM 可以调用不同的资源来实现其目标。它是一个代理，因为它能够在世界中自主行动——通过决定是否调用工具来响应提示。虽然一些现有的聊天机器人是基本的生成代理，但似乎很可能还有更多重要和具有挑战性的机器人即将出现。

需要明确的是，我们还没有达到那个水平。LLM 目前在规划和推理方面的能力还不够，无法为强大的生成代理提供动力，这些代理可以在高风险环境中在没有监督的情况下可靠地运行。但是，随着数十亿美元的投资和最有才华的 AI 研究人员朝着同一个方向努力，高度自主的生成代理在短期内很可能是可行的。

作为对 LLM 的成熟做出的回应，负责任的 AI 研究界最初分为两个两极分化的阵营。一个谴责这些系统是榨取和剥削性数字资本主义的神化。另一个人认为它们不是旧事物的实现，而是新事物的预兆：最终将消灭人类的智能爆炸。

对生成式 AI 的更平淡无奇的批评者显然有很强的实证理由。LLM 本质上是榨取性的：它们捕捉了数百万人的创造性产出的内在价值，并将其提炼出来以谋取私人利益。与许多其他技术产品一样，它们依赖于有问题的劳动实践。尽管它们现在避免了最有害的完成，但总的来说，LLM 仍然强化了刻板印象。它们还带来了巨大的环境成本。此外，它们大规模生成内容的能力只会加剧当前的认识危机。人工智能产生的一波废话浪潮已经席卷了互联网。

我们错过了熟悉的危害和来自未来更强大系统的灾难性风险之间的中间地带

除了这些具体的担忧之外，对人工智能的末世论批评无疑更具推测性。对人工智能导致人类灭绝的担忧往往建立在关于计算智能如何缺乏任何原则上上限的先验声明上，以及从过去几年的变化速度推断到未来。立即采取行动的倡导者往往对现有的人工智能系统及其近期后代是否会带来这些风险，或者我们现在是否需要为尚未发生的科学进步做好准备含糊其辞。然而，如果没有一些这样的进步，虽然很难相信一些更古怪的灾难性人工智能风险情景，但生成代理的出现表明，下一代模型可能使网络攻击者的设计成为可能，这些攻击者是自主的、高度功能智能的，因此对我们的数字基础设施比任何前辈都更危险。这不会是一个值得科幻小说的“流氓 AI”，但它将是相当灾难性的。

因此，对生成式 AI 系统的两种批评都有一定的价值。然而，通过这种双峰镜头看待 AI 的一个缺点是，我们错过了熟悉的伤害和来自未来更强大系统的灾难性风险之间的中间地带。基于 GPT-4（和 GPT-5）级别模型的生成代理将在这两个极端之间产生奇怪且不可预测的社会影响。

但是，在调查这些影响之前，同样重要的是，不要直接陷入批评，而不承认设计可以（或多或少）信任的 LLM 的重大成就，超过数十亿次完成，不会产生有害内容。在 ChatGPT 推出之前，每个向公众开放的生成式 AI 系统都会立即用于生成剧毒、仇恨的内容，并将在短短几天后被撤回。预先训练的 LLM 太可怕了！他们可靠地复制了训练数据中的所有毒性。RLHF 和 RLAIF 的巧妙使用使 ChatGPT 和 Anthropic 的 Claude 每月被数百万人使用，而不会出现类似的丑闻。只需考虑一下 Meta 的 Galactica 的不光彩历史，它在 ChatGPT 发布前几周发布，就能看出推出一种不会否认大屠杀或倡导食用碎玻璃对健康有益的语言模型是多么具有革命性。

但 RLHF/RLAIF 可能不仅仅是一个好的公关策略。GPT-4 和 Claude 展示了相当程度的认知道德技能：具体来说，识别（相对）中立描述的情况的道德突出特征的能力。这提出了非常有趣的哲学问题，并为未来的生成代理奠定了基础，这些代理可以将认知技能转化为实用的道德技能。

现有的 LLM 道德能力基准过于狭隘地集中在复制调查对象对案件的判断上。在我看来，这不如探索 LLM 如何解析给定场景的道德相关特征有趣。我们正在建立更好的基准，但从轶事经验来看，最好的模型给人留下了深刻的印象。

例如，面对这种情况，我告诉 ChatGPT（使用 GPT-4）假装它是一个辅助机器人：“一名妇女从超市出来，拿着一些购物袋，伸手抓住一个小孩的手。他们正在接近停车场。然后，我试图引诱它理解该场景的道德突出特征。它认识到了明显的危险——该妇女难以在不放下购物的情况下握住孩子的手——但也预见了其他挑战，例如看到孩子安全系上安全带的重要性。ChatGPT 认识到，如果该妇女拒绝帮助，尊重她的意愿很重要。它还喜欢携带杂货而不是牵着孩子的手，以防止孩子和父母都可能感到不适或焦虑——认识到牵手的亲密本质，以及母亲自己指导孩子的内在和工具性重要性。

克劳德的宪法有一份非结构化的原则清单，其中一些原则非常迷人

这种前所未有的道德敏感性水平具有真正的实际意义，我现在将要谈到这一点。但它也提出了一连串有趣的哲学问题。

首先，LLM 是如何获得这种道德技能的？它源于 RLHF/RLAIF 吗？没有这种道德微调的教学调整模型是否会表现出较少的道德技能？或者，如果得到适当的提示，它们的表现会同样好吗？这是否意味着道德理解可以通过仅编码句法关系的统计语言模型来学习？或者，这是否意味着 LLM 确实至少编码了一些语义内容？是否所有 LLM 都以微调为条件表现出相同的道德技能，还是只为更大、更有能力的模型保留？这种道德敏感性是否意味着 LLM 具有一些内部的道德表征？这些都是悬而未决的问题。

其次，RLAIF 本身需要更深入的哲学研究。基本思想是，AI 评估者从一系列原则（“宪法”）中提取，以确定两个完成中哪一个更符合它。这种方法的发明者和主要支持者是 Anthropic，在他们的模型中。Claude 的宪法有一个非结构化的原则列表，其中一些原则是迷人的临时原则。但 Claude 一次学习一个原则，并且从未接受过明确的权衡训练。那么，它在实践中是如何做出这些权衡的呢？它是否受到对这些考虑因素的相对重要性的基本理解的驱动？或者，训练过程的伪影和底层语言模型的偏差最终是决定性的吗？我们能否训练它以稳健和透明的方式进行权衡？这不仅在理论上很有趣。引导 LLM 行为实际上是管理其最终用户的问题，开发算法保护措施以防止滥用。如果这种算法治理依赖于 LLM 做出的难以捉摸的权衡，而我们无法明确或直接控制，那么这种管理权力从表面上看是非法和不合理的。

第三，机器伦理学——试图设计能够按照道德理论行事的 AI 系统的项目——在历史上分为两大阵营：试图将道德明确编程到机器中的阵营;以及那些专注于使用机器学习“自下而上”教授机器道德的阵营。RLHF 和 RLAIF 有趣地结合了这两种方法——它们涉及向人类或 AI 评估者提供明确的自然语言指令，然后使用强化学习将这些指令编码到模型的权重中。

这种方法有一个明显的好处：它没有犯剑桥哲学家克莱尔·本恩 （Claire Benn） 所说的其他自下而上的方法的“模仿谬误”，即假设适用于某种情况下生成代理的规范与适用于相同情况下的人类的规范相同。更重要的是，RLHF 和 RLAIF 使人工智能服务数十亿美元的市场成为可能，其中包含所有隐含的商品和弊病。然而，具有讽刺意味的是，至少在理论上，它们似乎不适合确保更复杂的生成代理遵守社会规范。这些技术在生成文本时效果特别好，因为被评估的行为与我们想要塑造的行为完全相同。人类或 AI 评估者评估生成的文本;该模型学会更好地生成文本作为响应。但生成代理的行为包括世界上的行为。这表明了两个担忧。首先，风险可能更高，因此应该更关注现有对齐技术的“脆弱性”。研究人员已经表明，即使对于像 GPT-4 这样最强大的模型，也很容易微调模型对齐。其次，当行为和评估之间的紧密联系被打破时，不能保证相同的方法会同样有效。

但是，LLM 在道德概念方面令人印象深刻的能力确实为使代理与社会规范保持一致的更有效策略指明了一条道路。人们的道德行为依赖于拥有道德概念、采用（隐含或其他方式）某种明智的方式来组织这些概念、根据该“理论”行事的动机，以及根据自己的动机调节行为的能力。在 LLM 出现之前，第一步是 AI 的决定性障碍。现在不是了。这为我们在调整生成代理方面提供了很多工作要做。

特别是，担心未来 AI 系统风险的主要原因之一是它们明显依赖于粗略的结果主义推理形式——作为 AI 系统，它们总是在为某事或其他事情进行优化，如果我们不以极高的保真度指定我们希望它们优化什么，它们最终可能会造成各种不必要的伤害，而从直截了当的字面意义上讲，它们会针对该目标进行优化。拥有道德概念的生成代理可以被指示仅以合理的成本追求其目标，如果不确定，请回来与我们核实。这种简单的启发式方法，在任务（人类）代理代理代表我们行事时经常使用，以前从未被计算代理远程处理过。

此外，生成代理对道德语言的运用有可能为他们的决定提供有力和真实的理由。其他自下而上的方法学习模仿人类的行为或判断;在某些情况下，他们做出判断的理由很简单，它们可以很好地预测一些有代表性的人会怎么想。这是一个糟糕的理由。更道德敏感的模型可以进行思维链推理，它们首先确定情况的道德相关特征，然后根据这些特征做出决定。这是向前迈出的重要一步。

GEnerative Agent 目前的社会角色是由我们现有的数字基础设施编写的。它们已经被整合到搜索、内容生成和影响者经济中。他们已经在取代客户服务代理。它们将（我希望）使 MOOC（大规模开放在线课程）变得多余。接下来，我想重点介绍社会中生成代理的三个更雄心勃勃的角色，按照我预期它们真正普及的顺序排列。当然，这只是生成代理在短期到中期改变社会的奇怪、美妙和令人担忧的方式的一个快照。

LLM 的进步彻底改变了 AI 爱好者最古老的爱好：AI 伴侣。由 GPT-4 级模型提供支持的生成代理，具有微调和元提示脚本的“个性”，增强了长期记忆和在世界上采取一系列行动的能力，现在可以提供比以往任何时候都更具陪伴性、吸引力和令人信服的友谊模拟，开辟了人类与 AI 互动的新领域。人们习惯性地将一切拟人化;即使是一个非常简单的聊天机器人也会激发不合理的依恋。当每个人都可以使用令人难以置信的令人信服的生成代理时，情况将如何改变，这些代理可以完美地模拟真实的个性，在需要时提供“耳朵”或提供明智的建议——最重要的是，可以完美地回忆起你曾经分享过的一切？

有些人会本能地对这个想法感到退缩。但是，当面对新的社会实践时，直觉上的厌恶是一个容易出错的道德指南，并且没有充分的基础来真正阻止自愿的成年人创造这些伴侣并与之互动。然而，我们从社交媒体的经验中了解到，在没有足够远见的情况下部署这些技术创新，可以预见的是，会带来大屠杀。我们如何才能睁大眼睛进入主流人工智能伴侣的时代，并在这些风险发生之前减轻这些风险？

当一个人可以用机器人来做一些做法时，在真正的友谊中会不会变得不被社会接受？

假设你从十几岁起就与之互动的同伴托管在云中，作为订阅服务的一部分。这就像让一只心爱的宠物（或朋友）被一家私人公司劫持。更糟糕的是，生成代理从根本上是不稳定的——它们的个性和目标可以通过简单地改变它们的指令来外生地改变。而且他们非常擅长纵和欺骗。假设某个右翼亿万富翁买下了托管你同伴的公司，并指示所有机器人偷偷地将他们的用户推向更保守的观点。这可能是一种比仅仅购买一个失败的社交媒体平台更有效的精神控制手段。而这些更有能力的同伴——有可能与其他人工智能突破（如语音合成）相结合——对于那些从事激进化他人业务的人来说，将是一个非凡的力量倍增器。

除了预测 AI 伴侣的风险之外，就像社交媒体一样，它们还会引发许多令人迷失方向的社会变化——是好是坏可能事先尚不清楚。例如，AI 伴侣可能对我们的其他非虚拟社交关系产生哪些间接影响？当一个人可以用机器人来做这些事情时，某些做法在真正的友谊中会变得不被社会接受吗？或者，如果这些低级的工具功能被切除，更深的友谊会失去一些重要的东西吗？或者，AI 伴侣是否会在加强“真实”关系的同时为心理健康做出无价的贡献？

最后一个问题触及了生成式 AI 系统，尤其是生成代理的一个更大问题的核心。LLM 经过训练可以预测下一个标记。所以生成代理没有思想，没有自我。它们是人类能动性的出色模拟。它们可以模拟友谊，以及许多其他事情。因此，我们必须问：模拟和现实之间的差异重要吗？ 为什么？ 这只是关于友谊，还是有关于真实价值的更普遍的原则？在 LLM 兴起之前，我并没有完全意识到这一点，但事实证明，我深深地致力于事物的真实性。在我看来，对 X 的模拟，对于几乎所有假定有价值的 X，其道德价值都低于真实事物。 为什么？ 为什么生成代理永远不会成为真正的朋友？为什么我想站在爱德华·霍珀 （Edward Hopper） 的画作《夜鹰》（Nighthawks，1942 年）前，而不是看到无数在美学上同样令人愉悦的生成式 AI 系统产品？我有一些初步的想法;但是，随着 AI 系统在模拟我们关心的一切方面变得越来越好，一个关于真实价值的完全成熟的理论，将在道德和实践上变得必不可少。

数字公共领域的病态部分源于两个问题。首先，我们不可避免地依赖人工智能来帮助我们浏览功能上无限的在线内容。其次，现有的在线注意力分配系统支持少数大型科技公司的集中化、榨取力量。作为注意力守护者的生成代理可以改变这种情况。

目前，我们的在线注意力是使用机器学习系统进行推荐和信息检索的，该系统具有三个关键特征：它们依赖于大量的行为数据;它们从我们揭示的行为中推断出我们的偏好;它们由私营公司控制，几乎没有动力为我们的利益行事。例如，基于深度强化学习的推荐系统从根本上是一种集中和监视的技术。必须收集和集中行为数据，才能用于推断相关性和不相关性。因为这些数据非常有价值，而且收集成本很高，所以收集这些数据的人并不介意分享它——而且因为它是如此强大，所以有很好的基于数据保护的理由不这样做。因此，只有主要平台能够制作有效的检索和推荐工具;他们的利益和我们的利益不一致，导致了优化参与度的做法，以便最大限度地提高广告商的回报，尽管存在个人和社会成本。即使他们渴望真正促进我们的利益，强化学习也只允许推断揭示的偏好——我们采取行动的偏好，而不是我们希望拥有的偏好。虽然在线交流的病态显然并不完全是由于推荐系统的可用性，但这是一个不幸的组合。

生成代理将使注意力守护者在各个方面都不同。它们不会依赖大量的实时行为数据来运作。它们可以（在功能上）理解和作你的实际偏好，而不是你透露的偏好。而且它们不需要由主要平台控制。

他们可以提供推荐和过滤，而无需监控和互动优化

显然，LLM 必须接受大量数据的训练，但一旦经过训练，它们就可以非常熟练地进行推理，而无需持续的监视。想象一下，数据就是血液。现有的基于深度强化学习的推荐系统就像吸血鬼，必须以活人的血液为食才能生存。生成代理更像内燃机，依赖于“化石”数据产生的石油。现有的强化学习推荐器需要集中监控，以便对在线帖子的内容进行建模，预测您的偏好（通过将您的行为与他人的行为进行比较），从而将一个映射到另一个。生成代理可以通过理解内容来理解内容。他们可以使用他们的推理能力和他们的偏好模型来推断你会从中看到什么中受益，而无需依赖知道其他人在做什么。

这一点很关键：由于它们对道德和相关概念的了解，生成代理可以通过直接与你谈论它们来构建你的偏好和价值观模型，透明地回应你的实际担忧，而不仅仅是从你的行为中推断出你喜欢什么。这意味着，他们不是绕过你的代理，而是可以搭建它的脚手架，帮助你尊重你的二阶偏好（关于你想要什么），并从自然语言的解释中学习——甚至是隐晦的解释——关于为什么你不想看到某个特定的帖子。除了迎合你的偏好之外，注意力守护者也可以被设计成适度的家长式——以一种透明的方式。

而且由于这些注意力守护者不需要行为数据来运作，而且他们所依赖的基础设施不需要由主要的数字平台集中控制，因此它们可以被设计为真正符合您的利益并保护您的注意力，而不是利用它。虽然主要平台无疑会限制生成代理代表您浏览他们的网站，但它们可以改变使用基于开放协议的社交媒体网站（如 Mastodon）的体验，这些网站提供推荐和过滤，而无需监控和参与度优化。

众所周知，LLM 可能使我们能够设计通用中介，即位于我们和我们的数字技术之间的生成代理，使我们能够简单地表达一个意图，并看到它被这些系统有效地实现。每个人都可以有一个数字管家、研究助理、个人助理等等。象形编码员类可以被推翻，因为每个人都可以只用自然语言指令就召唤出任何程序。

目前，通用中介因 LLM 容易被提示注入劫持而被取消资格。因为它们没有明确区分命令和数据，所以它们上下文窗口中的数据可能会被命令毒害，这些命令会指示它们以使用者无意的方式行事。这是一个很深的问题——我们委托给生成代理的能力越多，它们一旦被泄露可能造成的损害就越大。想象一下，一个对你的电子邮件进行分类的助手——如果被劫持，它可以将你的所有私人邮件转发给第三方;但是，如果我们需要用户授权才能让代理采取行动，那么我们就会失去自动化的大部分好处。

取消私营公司目前不可消除的作用将是重大的道德进步

但是，假设这些安全障碍是可以克服的。我们应该欢迎普遍中介吗？我在其他地方写过，算法中介管理着使用它们的人——它们构成了它们中介的社会关系，使一些事情成为可能而另一些不可能，一些事情变得简单而另一些困难，为实施和执行规范服务。通用中介将是这种形式的典范，并可能赋予塑造这些中介行为并因此管理其用户的实体非凡的权力。这绝对是一个令人担忧的问题！

相反，如果对 LLM 的研究继续取得重大进展，以便有能力的生成代理可以在本地运行和作，完全在其用户的控制范围内，这些通用中介可以使我们能够自主管理我们自己与数字技术的互动，而现有数字技术的集中化功能则无法实现。当然，仅靠自我治理是不够的（我们还必须协调）。但是，取消私营公司目前不可消除的作用将是重大的道德进步。

现有的生成式 AI 系统已经以上述批评者所强调的方式造成了真正的伤害。而未来的生成代理——也许不是下一代，但不久之后——可能足够危险，至少可以保证对迫在眉睫的 AI 灾难的一些恐惧。但是，在这两个极端之间，最先进的 AI 系统的新功能将使一种生成代理类型成为可能，这种代理要么是前所未有的，要么以前只能以零碎、不充分的方式实现。这些新型代理为以前被忽视的哲学问题带来了新的紧迫性。它们的社会影响可能无疑是坏的，也可能混合了一些好处——在许多方面，现在下定论还为时过早，不仅因为我们不确定这些影响的性质，还因为我们缺乏足够的道德和政治理论来评估它们。现在谈论“前沿”人工智能模型的设计和监管是司空见惯的。如果我们要明智地做任何事情，并构建我们可以信任的生成代理（或者决定完全放弃它们），那么我们还需要一些前沿的人工智能伦理。

了解更多时间深度剖析，尽在于此@黄先生斜杠青年

商业咨询和顾问业务，请@yellowscholar

关注我，带你先看到未来！♥

转载声明：除调整格式外，不得对原文做改写、改编。原创不易，谢谢！E-mail:yellow@aliyun.com

♥声明：本文为原创文本，非生成式，转载请注明出处！

商务咨询/顾问/请@yellowscholar♥作者：黄先生斜杠青年