人工智能无法被禁，但我们能否筑起安全屏障？

人工智能令人着迷，具有变革的潜力，并且越来越多地融入我们的学习、工作和决策中。

但每一个创新和效率的例子——例如在蒙特利尔的魁北克大学由一位会计教授最近开发的定制AI助手——也有另一个例子突显出对监督、素养和能够跟上技术步伐并保护公众的法规的需求。

最近在蒙特利尔的一个案例说明了这种紧张关系。一名魁北克男子因在法庭上提交“引用的专家引述和不存在的法律判例”而被罚款5000美元。这也是该省首次作出此类裁决，尽管其他国家也发生过类似案件。

人工智能可以使学习、知识甚至正义的获取民主化。然而，如果没有伦理规范、适当的培训、专业知识和基本素养，这些旨在赋权人们的工具同样可以破坏信任并反而适得其反。

为什么护栏很重要

护栏是确保人工智能安全、公平和透明使用的系统、规范和机制。它们允许创新蓬勃发展，同时防止混乱和损害。

欧盟成为第一个采用全面框架来监管AI的主要管辖区，推出了欧盟人工智能法案，该法案于2024年8月生效。该法律将AI系统分为基于风险的类别，并分阶段推出规则，以便组织有时间准备合规。

该法案禁止某些人工智能的使用。这些包括 社会评分 和公共场所的实时 面部识别，而这两者在二月份已被禁止。

在教育、招聘、医疗和执法等关键领域使用的高风险人工智能将面临严格要求。从2026年8月开始，这些系统必须符合数据质量、透明度和人类监督的标准。

通用人工智能模型自2025年8月起需遵守监管要求。有限风险系统，比如聊天机器人，必须告知用户他们正在与算法互动。

关键原则是，潜在影响越大，对权利或安全的义务就越强。目标不是为了减缓创新，而是让创新变得更有责任感。

值得注意的是，该法案还要求每个欧盟成员国至少建立一个 运营监管沙箱。这些是受控的框架，企业可以在监督下开发、训练和测试人工智能系统，之后再进行全面部署。

对于缺乏足够合规基础设施的小型和中型企业，沙箱提供了一条创新的路径，同时帮助它们提升能力。

加拿大在人工智能领域仍在追赶

加拿大还没有建立起一个全面的人工智能法律框架。《人工智能与数据法案》于2022年作为C-27法案的一部分被提出，这个法案被称为数字宪章实施法案。它旨在为负责任的人工智能发展创建法律框架，但该法案从未获得通过。

加拿大现在需要迅速采取行动来解决这个问题。这包括加强人工智能的治理，投资公共和专业教育，并确保多样化的声音——如教育工作者、伦理学家、劳动专家和公民社会——参与到人工智能立法的制定中。

类似于欧盟框架的分阶段方法，可以在支持创新的同时提供一定的确定性。最高风险的应用将立即被禁止，而其他应用则面临逐步严格的要求，给企业留出适应的时间。

监管沙盒可以帮助中小企业在面对持续的劳动力短缺时负责任地进行创新，同时提升急需的能力。

联邦政府最近成立了人工智能战略工作组，以帮助加速该国对技术的采用。预计将在几个月内就竞争力、生产力、教育、劳动和伦理等问题提出建议。

但正如一些专家所指出的，该工作组的声音严重倾向于行业，这可能导致对人工智能对社会影响的狭隘理解。

仅靠防护措施是不够的

虽然法规可以设定边界并保护人们免受伤害，但仅靠防护措施是不够的。构建一个伦理和包容的人工智能社会，另一个重要基础就是素养和技能的发展。

人工智能素养是我们质疑人工智能工具和内容能力的基础，并且它正迅速成为大多数工作中的基本要求。

然而，近一半在工作中使用人工智能工具的员工没有接受过培训，超过三分之一的员工仅获得了雇主的最低指导。不到十分之一的小型或中型企业提供正式的人工智能培训项目。

因此，采用过程往往是非正式的，且缺乏监督，这使得员工和组织面临风险。

人工智能素养在三个层面上运作。在基础层面，它意味着理解什么是人工智能、它是如何工作的，以及何时质疑其输出，包括对偏见、隐私和数据来源的认识。中级素养则是使用生成性工具，比如ChatGPT或Copilot。在顶层是高级技能，人们在设计算法时考虑公平性、透明度和问责制。

提升人工智能素养意味着要投资于结合批判性思维和实际人工智能使用的技能提升与再培训。

作为一名大学讲师，我常常看到人工智能主要被视为一个 作弊的风险，而不是学生必须学会负责任地使用的工具。虽然它确实可能被滥用，但教育工作者必须在保护学术诚信的同时，帮助学生学会如何与这些系统合作。

在创新与责任之间取得平衡

我们不能禁止或忽视人工智能，但我们也不能让追求效率的竞赛超越我们管理其后果的能力，或解决公平、问责和信任的问题。

技能发展和保护措施必须同步推进。加拿大需要多样化的声音参与其中，真正的投资要与其雄心相匹配，以及在任何人工智能法律、标准和保护中建立强有力的问责机制。

更多的人工智能工具将被设计用来支持学习和工作，而更多代价高昂的错误将源于对我们尚未完全理解的系统的盲目信任。问题不在于人工智能是否会普及，而在于我们是否能建立必要的保护措施和素养来应对它。

人工智能可以成为专业知识的补充，但不能替代它。随着技术的发展，我们理解、质疑和引导它为公众利益服务的能力也必须随之提升。

我们需要将创新与伦理相结合，将速度与反思相结合，将兴奋与教育相结合。保护措施和技能发展，包括基本的人工智能素养，并不是对立的；它们是推动进步的两只手。