AI遭“围剿”！欧洲、中国之后，美国考虑对ChatGPT等工具进行审查

（原标题：AI遭“围剿”！欧洲、中国之后，美国考虑对ChatGPT等工具进行审查，OpenAI、微软、谷歌积极回应）

每经记者 蔡鼎 每经编辑 高涵    

据《华尔街日报》4月11日报道，由于人们越来越担心生成式人工智能（AI）技术可能被用来进行歧视或传播有害信息，拜登政府已经开始研究是否需要对ChatGPT等人工智能工具进行审查。

作为潜在监管的第一步，美国商务部已经于美东时间4月11日（周二）正式公开征求意见，就其所谓的问责措施发表意见，包括有潜在风险的新人工智能模型在发布前是否应该通过认证程序。

《每日经济新闻》记者注意到，北京时间周二，中国的监管机构已经对生成式AI技术进行过一系列的表态。其中提到，提供生成式AI产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗。此外，4月10日，中国支付清算协会网站发布“关于支付行业从业人员谨慎使用ChatGPT等工具的倡议”。

前腾讯安全技术中心专家李铁军在接受《每日经济新闻》记者采访时指出，目前各方面对（生成式）AI的担忧比较多，美国方面以马斯克为代表。“他们担心AI的自我生长，可能突破人类限制。如果真的突破，或许人类干不过AI，后果难以评估。”

担忧生成式AI风险，美国拟设置“护栏”

美国政府采取上述监管行动之际，新兴人工智能工具的使用在过去几个月大范围风靡，这些工具可以快速生产类似人类产出的文字、图片和视频等。一些分析师估计，微软支持的聊天机器人ChatGPT比历史上任何消费类应用程序的用户增长规模都更快。

美国国家电信和信息管理局（下称NTIA，美国商务部发布征求意见的机构）局长Alan Davidson表示，“看到这些工具在相对早期就能发挥（如此强大的）作用，真是令人惊讶。我们知道，我们需要设置一些‘护栏’，以确保这些工具被负责任地使用。”

《华尔街日报》报道截图

Davidson表示，上述征求意见将被用来帮助制定给美国政策制定者关于如何对待人工智能的建议。他还补充称，NTIA的法律任务涉及向总统提供科技政策建议，而不是编写或执行法规。

报道中还称，行业和政府官员对一系列潜在的人工智能危害表示担忧，包括利用该技术进行犯罪或传播虚假信息。美国参议员Michael Bennet上个月曾写信给几家人工智能公司，询问在公共实验中聊天机器人向冒充年轻人的用户提供有害建议的情况，儿童的安全也是他们最关心的问题。

康涅狄格州民主党参议员Richard Blumenthal在接受媒体采访时也表示，“关于人工智能可能带来的爆炸性的好处和坏处，人们正在进行非常活跃的讨论。对国会来说，这是一个终极挑战——技术性高度复杂、事关重大，非常紧迫。”

《每日经济新闻》记者注意到，包括特斯拉CEO马斯克和“人工智能教父”Geoffrey Hinton在内的科技领袖最近也开始呼吁暂停训练比GPT-4更强大的AI系统。GPT-4是OpenAI大约在一个月前发布的聊天机器人版本。这些科技大佬警告称，OpenAI与Alphabet旗下谷歌等竞争对手之间正在展开AI“军备竞赛”，但并未对潜在风险进行充分的管理和规划。

图片来源：futureofoffice

据悉，拜登上周在白宫也与一个科学家顾问委员会讨论了这个话题。当一名记者问及生成式人工智能技术是否危险时，拜登答道：“有可能。还有待观察。”

据悉，这个委员会的成员包括了微软和谷歌的代表，他们和洽谈发布人工智能系统的公司表示，他们正在不断更新安全“护栏”，如通过编程避免让聊天机器人回答某些有害问题。

中国监管机构已提前出手

前腾讯安全技术中心专家李铁军在接受《每日经济新闻》记者采访时指出，“目前各方面对（生成式）人工智能的担忧比较多，美国方面以马斯克为代表。这些人担心AI的自我生长，可能突破人类限制。如果真的突破，或许人类干不过AI，后果难以评估。我也看了有关讨论，一部分科学家确实有这方面的担忧，已经感觉像是《黑客帝国》里描述的东西了。”

“美国政客的讨论就是充分利用新技术确保竞争优势，但安全方面的担忧确实是很重要的一方面，美国网络安全与基础设施安全局官员上周还在一个论坛上对生成式人工智能的安全影响表示了严重关切，警告说需要采取立法行动来规范其使用。”李铁军对记者补充道。

每经记者还注意到，就在美国政府周二就生成式AI的潜在监管公开征求意见之前，中国的监管机构已经对该技术进行过一系列的表态。

北京时间4月11日（周二），国家互联网信息办公室就《生成式人工智能服务管理办法(征求意见稿)》公开征求意见。其中提到，提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗。此外，利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

图片来源：国家网信办

4月10日，中国支付清算协会网站发布“关于支付行业从业人员谨慎使用ChatGPT等工具的倡议”。

倡议称，ChatGPT等工具近期引起了各方广泛关注，已有部分企业员工使用ChatGPT 等工具开展工作。但是，此类智能化工具已暴露出跨境数据泄露等风险。为有效应对风险、保护客户隐私、维护数据安全，提升支付清算行业的数据安全管理水平，根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》等法律规定，中国支付清算协会向行业发出倡议。

图片来源：中国支付清算协会

除了中国和美国外，4月3日，德国联邦数据保护专员发言人称，出于数据保护方面的考虑，可能会暂时禁止在德国使用ChatGPT。

当地时间4月4日，加拿大隐私专员办公室（OPC）宣布对聊天机器人ChatGPT开发公司OpenAI展开调查，该调查涉及“OpenAI未经同意收集、使用和披露个人信息”的指控。

目前OPC没有透露更多的调查细节。该机构的一位隐私专员表示，人工智能技术及其对隐私的影响是OPC的优先事项，“我们需要跟上快速发展的技术并保持领先，这是我作为隐私专员重点关注的领域之一。”

这是继意大利之后又一个对ChatGPT“出手”的国家监管机构。此外，法国、爱尔兰、西班牙等欧洲国家也开始考虑对人工智能聊天机器人采取更严格的监管。

OpenAI最新回应：安全监管是必要的

在监管声四起的当下，一些人工智能企业也主动欢迎并寻求制定新的监管规定。例如，OpenAI最近还在一篇博客文章中表示，“我们认为，强大的人工智能系统应该接受严格的安全评估。需要监管来确保这些做法得到采用，我们积极与各国政府接触，探讨可能采取的最佳监管形式。”

另据Axios，美东时间本周三，OpenAI、微软、谷歌、苹果、英伟达、Stability AI、Hugging Face、Anthropic等公司将开会讨论制定AI技术开发使用标准，讨论如何以最负责任的态度继续开发AI。

Axios报道截图

众议院监督委员会技术小组主席、南卡罗莱州共和党众议院Nancy Mace上个月在一场关于人工智能的听证会上发表讲话时，讨论了人工智能的风险和好处。然后她表示，她的开庭陈词所有内容，都是用ChatGPT写的。Mace问在场的人士，人工智能是否发展得太快了：“我们有能力开发出对人类生存构成威胁的人工智能吗？还是说这只是科幻小说？”

谷歌前CEO Eric Schmidt此前则表示，美国国会应该把重点放在促进人才发展和创新上。

《每日经济新闻》记者还注意到，由于没有专门针对人工智能的联邦法律，一些政府机构已经使用了其他法律权利。例如，金融部门监管机构已经调查了贷款机构如何使用人工智能来承销贷款，目的是防止对少数群体的歧视。美国司法部反垄断部门则表示，其正在检测该领域的竞争，而美国联邦贸易委员会（FTC）则警告企业，它们可能会因对人工智能产品做出虚假或未经证实的声明而面临法律后果。