OpenAI将用ChatGPT指导用户获取可靠信息，避免美国大选信息滥用和误导

当地时间 1 月 15 日，在美国艾奥瓦州举行的 2024 年总统选举首场初选中，美国前总统特朗普以超过 50% 的得票率成功胜出。而该州的初选，也意味着 2024 年美国大选的日程正式拉开帷幕。

事实上，2024 年是历史上非常特殊的一年，不只是美国，世界范围内将有 50 多个国家举行大选。

值得注意的是，在同一年投票选举新政府，既是美国和英国 60 年来的首次，也是 2004 年以来美国和欧盟的第一次。

不过，随着社会的发展，选举过程中需要面临的问题也越来越多，包括暴力威胁、选举工作人员短缺、网络安全攻击等。

AI 也是其中不可轻视的重要问题。基于全球选举的大背景，在音频、图像和文本生成等方面不断取得新进展的 AI，将成为一把双刃剑。

一方面，AI 有利于简化流程、改善国家服务，并为医疗领域提供帮助；另一方面，AI 也能够创建深度造假内容，并极有可能带来巨大的风险。

（来源：AI 生成）

为了更好地维护选举的公平性和合理性，社交媒体、人工智能等领域的科技公司，正致力于发挥自己的作用。

例如，在于当地时间 1 月 15 日发布的一份声明中，以 ChatGPT 和 DALL·E 3 等 AI 模型闻名的 ，计划从防止滥用、提高 AI 生成内容的透明度，以及改进对权威投票信息的访问三个方面出发，为 2024 年的全球大选做准备。

首先，基于让用户安全、负责地使用所开发的 AI 工具的目的， 计划预测并防止与 AI 滥用的行为发生。

例如，在发布新系统前，该公司会征求外部（用户、合作伙伴等）反馈，并建立安全缓解措施，以减少潜在的危害。

比如，DALL·E 不会生成包括政治候选人在内的真人图像的请求，ChatGPT 及其 API 的使用政策也将不断完善。就选举而言：

其一，用户不能构建与民主选举有关的应用程序，以避免 AI 工具在个性化说服方面发挥作用。

其二，开发者不能为实现某种 特定目标创建聊天机器人，比如冒充候选人或官方组织机构。

其三，不能开发如阻碍投票程序和资格、或者阻止投票等应用程序，这可能会影响人民参与民主进程。

其四，允许用户通过新的 GPT 举报潜在的违规行为。

同时，为了消除选民对 AI 生成内容来源的担忧， 正在尽可能地推动文本、图像等内容的来源更加清晰。

具体来说，使用密码学技术对与内容来源有关的详细信息进行编码，进一步提高选民评估此类内容真实性的能力。

同时，开发一种名叫来源分类器的工具，以用于检测由 AI 生成的图像，即使这些图像被修改过。据了解，新闻从业者和科研人员等用户很快就可以使用该工具，以便通过他们增强打击虚假信息的力度。

此外，让 ChatGPT 生成的内容更加规范，比如帮助用户在阅读实时新闻消息时，能看到内容来源的归属链接。

最后， 将为选 民提供准确的信息，帮助他们做出明智的决策。目前， 已经在联合全美州务卿协会，通过 ChatGPT 指导用户获取可靠的投票信息。

例如，在参加选举的过程中，当美国用户询问与选举程序有关的问题时，会被引导至美国投票信息权威网站 CanIVote.org。

显而易见，在选举开始之前滥用 AI，或将导致舆论影响力的规模化运作、信息的深度伪造，甚至冒充政治人物。从影响上看，这很可能会破坏民主进程、误导选民并扭曲公众言论。

2023 年的阿根廷总统选举，便是利用 AI 操控大选的典型案例之一。具体来说，右翼的自由派候选人哈维尔·米莱（Javier Milei）使用 AI 将竞争对手进行不合理描述，而他则以 300 万选票的优势轻松胜出。

而就 2024 年的选举来说，不仅意义重大，选举格局也非常多样化。在该背景下确保选举的公正性，本就是一项艰巨的任务。

复杂的 AI 技术的出现，以及它在塑造、影响和保护民主方面能够发挥的作用，更是让这一任务变得愈发复杂。

因此，必须警惕 AI 在造福于民的同时，可能带来的潜在危害。

上述 的积极举措，既凸显了 AI 与实现民主完整和公正之间的相互作用，又展现了科技公司在 AI 时代不得不面临的、更广泛的挑战和责任。

对于 本身而言，其会从这些早期的举措中吸取经验，并在全球范围内推广类似举措。另据了解，该公司将在未来几个月内分享更多的进展。

参考资料：

https://openai.com/blog/how-openai-is-approaching-2024-worldwide-elections

https://community.openai.com/t/official-blog-post-how-openai-is-approaching-2024-worldwide-elections/588324

https://www.axios.com/2024/01/15/chatgpt-openai-2024-elections

https://www.axios.com/2024/01/03/ai-elections-politics-chatbots-regulation

https://www.engadget.com/openai-lays-out-its-misinformation-strategy-ahead-of-2024-elections-022549912.html

https://www.maginative.com/article/preparing-for-elections-in-an-ai-powered-world-openai-outlines-its-approach-for-2024/

运营/排版：何晨龙

01/

04 /

05/