【人工智能】报告概述了斯坦福大学使用 AI 的原则

斯坦福大学人工智能咨询委员会的报告包括有关该校管理、教育和研究中人工智能使用的建议。

随着人工智能 (AI) 继续重塑斯坦福大学的教育、研究和管理， 斯坦福大学人工智能咨询委员会发布的一份新报告呼吁在创新与责任之间取得平衡并与大学的核心价值观保持一致。

《斯坦福的人工智能》报告强调了人工智能带来的机遇和风险，并提出了鼓励实验和创造力的指导原则，同时解决了抄袭、作者身份和道德使用等挑战。

“人工智能技术的发展对高等教育有着巨大的影响，从课堂到研究实验室，”教务长詹妮·马丁内斯说。“这种可能性令人兴奋不已，我相信斯坦福将继续成为这一领域的领导者。在我们支持这项技术的进步时，评估斯坦福目前如何使用人工智能、考虑未来如何使用人工智能以及确定可能存在的任何政策差距至关重要。我感谢咨询委员会周到而细致的工作，以及它为推动斯坦福负责任地使用人工智能所提供的指导。”

今年 3 月，教务长指示斯坦福大学人工智能咨询委员会评估人工智能在管理、教育和研究中的作用，并确定在大学负责任地使用人工智能所需的条件。

各大学办公室和委员会将考虑并采纳报告中的建议，委员会主席将在冬季季度向教务委员会提交报告。该委员会由来自校园各个部门的 10 名教职员工组成，将继续开会讨论斯坦福大学未来使用人工智能的相关问题。

平衡实验与原则

尽管委员会承认对人工智能的担忧是合理的，但它试图避免制定可能阻碍该技术潜在利益的僵化政策。“我们希望首先鼓励在安全的空间进行实验，以了解它能做什么以及它如何帮助我们完成使命，”委员会主席 Russ Altman 说。“但随后，我们还希望建立明确的‘热点’区域，人们应该在这些区域谨慎行事。”

报告强调了大学可能存在的政策差距，指出许多情况和挑战是无法预料的，并提供了指导大学使用人工智能的一般原则，例如要求在所有人工智能使用中进行人工监督和道德考虑。

“始终要有专业精神和个人责任感。每当有人使用人工智能时，即使人工智能做了一些工作，他们也需要对输出负责，如果出现错误，责任就在他们身上，”肯尼斯·方教授、生物工程、遗传学、医学、生物医学数据科学教授、斯坦福以人为本人工智能研究所高级研究员阿尔特曼说。

报告称，人们应该抵制陷入人工智能例外 论——认为现有的法律、法规和大学政策不适用于人工智能。“人工智能似乎具有诱人的能力，”Altman 说，“因此人们放松警惕，以忘记人工智能是什么以及它是如何运作的方式使用它。”

作为指导原则，该报告推荐了一条“人工智能黄金法则”：将人工智能用于他人，就如同你希望他人使用人工智能用于你一样。例如，你希望人工智能用于审查你的提案吗？这一评估将基于个人判断、不断发展的社区规范，并结合其他原则来指导人工智能的使用。

教育

委员会研究的一个主要领域是人工智能如何影响教育。委员会指出，学生们已经采用了 ChatGPT 等人工智能技术，这意味着荣誉准则和个别课堂政策可能需要重新审视。

与此同时，委员会成员兼教育研究生院（GSE）院长丹·施瓦茨 (Dan Schwartz) 表示，许多教师没有人工智能经验，也不知道如何使用人工智能。

“学生对此的探索比教师多得多，这就是为什么找到教育教师的方法很重要，我认为这在研究方面也是如此，”施瓦茨说。“问题正在慢慢从我们的学生会用什么作弊，转变为一个更复杂的问题，即什么算作弊，他们如何在工作中使用人工智能，以及如何使其成为作业的一部分。”

为了帮助教师解决这些问题，委员会建议制定能够适应不同课堂需求的框架。“这是学生和教师都希望的，这样他们就能明白什么是允许的、什么是有成效的，”施瓦茨说。

GSE 已经创建了AI Tinkery，作为斯坦福学习加速器的一部分，为教育工作者提供一个探索 AI 可能性的协作空间。

研究

在研究中，人工智能带来了复杂的挑战，包括人工智能是否可以或应该被列为出版物的作者。其他问题包括使用人工智能审查和撰写提案、在学生作业上训练人工智能、使用数据进行人工智能研究、解决大语言模型成果中潜在的版权侵权问题以及检测欺诈行为。

例如，人工智能检测仪的使用已经导致抄袭指控数量增加，包括虚假指控，这给处理研究不端行为的办公室带来了巨大负担。大学的不端行为政策和调查指控的规则也可能需要根据新的联邦政策进行更新。

奥特曼说，许多这些问题都是在与从事研究管理的人员的交谈中提出的。

报告称，研究人员还应被提醒或意识到使用人工智能的潜在风险，并随着法律风险状况的变化而更新信息。委员会还鼓励斯坦福大学考虑扩大计算资源的方法，以确保斯坦福大学在这些技术的有效使用方面保持领先地位。

行政

关于人工智能在大学管理过程中的使用，委员会发现几个领域可能需要更多指导和附加政策，例如招聘、绩效评估、招生、沟通和监控。该报告还提出了关于敏感数据使用教育和培训、简化人工智能系统采购流程和推荐信的建议。

委员会承认，并非所有人工智能用途都已完全确定。“我们非常清楚，我们无法发现校园内人工智能的所有用途，这促使我们阐明指导原则，希望这些原则对评估新人工智能机会的人们有用，以查看是否存在任何危险信号，”Altman 说。“最终，这些原则可能比我们提出的具体问题更有用，也更具有通用性，而这些问题在未来几年可能会或可能不会继续存在。”

该委员会只是斯坦福大学不断将人工智能融入日常工作的一个方面，其中还包括斯坦福大学 IT资源，例如斯坦福人工智能游乐场，员工、学生和教职员工可以在这里使用各种人工智能工具。同时，在研究方面，斯坦福大学各地的教职员工正在推动各种学科人工智能开发和使用知识的前沿，这些研究得到了斯坦福以人为本的人工智能研究所和斯坦福数据科学等项目以及斯坦福最新的高性能计算集群Marlowe的支持。

免责声明：

本文所发布的内容和图片旨在传播行业信息，版权归原作者所有，非商业用途。如有侵权，请与我们联系。所有信息仅供参考和分享，不构成任何投资建议。加密货币市场具有高度风险，投资者应基于自身判断和谨慎评估做出决策。投资有风险，入市需谨慎。

关注我们，一起探索AWM！

2024-12-18

领域，智能体能发挥出什么作用？

2024-12-15

2024-12-14