北京
中国生物多样性保护与绿色发展基金会生物与科学伦理委员会（简称绿会BASE）小编注意到，近日，美国斯坦福大学的基础模型研究中心（CRFM）发布了一项名为“基础模型透明度指数”（TheFoundationModelTransparencyIndex，简称斯坦福AI透明度指数）的研究成果。这一指数的主要目的是对基础模型开发者的透明度进行全面评估。这些基础模型，如GPT-4和Llama2，已经广泛应用于数百万用户，对社会产生了深远的影响。然而，尽管这些模型的普及程度不断提高，它们的透明度却呈下降趋势。如果这一趋势持续下去，基础模型可能会变得与社交媒体平台和以往的技术一样不透明，重复它们的失败模式。为什么会这样？怎样改变呢？
为了解决这一问题，斯坦福大学的研究人员引入了“基础模型透明度指数”，该指数围绕100个透明度指标展开，这些指标详细记录了基础模型的透明度、构建这些模型所需的资源以及它们在人工智能供应链中的使用情况。
在2023年的指数中，研究人员对10家领先的基础模型开发者进行了评分，根据100个指标提供了有关AI生态系统透明度的快照。然而，令人担忧的是，即使最高分的模型也只得了100分中的54分。这表明没有一家主要的基础模型开发者能够提供足够的透明度，揭示了AI行业在透明度方面的根本不足。
这个指数将这些指标分为三个广泛的领域：上游、模型和下游。上游指标指定了构建基础模型所涉及的成分和过程，包括计算资源、数据和劳动力等。模型指标详细说明了基础模型的属性和功能，如模型的架构、能力和风险。下游指标则指定了基础模型的分发和使用方式，包括对用户的影响、模型的更新以及管理其使用的政策。
研究发现，开放的基础模型开发者在透明度方面领先。其中三家开放的基础模型开发者中，有两家获得了最高分。然而，即使在那些开发者在透明度方面表现较好的子领域中，仍然有改进的空间。例如，没有一家开发者提供了关于提供使用数据的过程的信息。此外，只有少数几家开发者在透明度方面表现得较好，如明确模型的局限性或由第三方评估模型的能力。
据介绍，斯坦福的基础模型透明度指数旨在引起对于透明度问题的关注，以鼓励AI行业更好地满足公众和用户的期望，确保AI技术的伦理和道德使用。通过透明度，公众可以更好地了解和应对AI技术的潜在风险和机遇，同时促使开发者改进他们的透明度做法，以确保AI系统的可持续和安全使用。这个指数将定期更新，以反映行业的最新动态，并帮助政策制定者更好地了解AI公司的透明度问题，以制定相关政策和规定。感兴趣的读者可以参看文末参考链接。
【思考】
人工智能伦理（AIEthics）评价，无疑是促进科技向善的重要抓手。笔者觉得，美国斯坦福大学这个做法或许也是值得我们学习和借鉴的。本文最后，我们不妨思考这样的几个问题：
（1）基础模型透明度指数的发布是否将对AI行业的发展和伦理问题产生积极的影响？这一透明度评估是否能够鼓励开发者更加负责地使用AI技术，保护用户权益？
（2）为什么开放的基础模型开发者在透明度方面领先？是否应该鼓励更多的AI开发者采用开放的透明度政策，以提高整个行业的透明度水平？
（3）对于我们中国的相关practice有何借鉴意义？
欢迎来信分享。有见地的观点我们将在“中国生物救护与科学伦理”微信公众号发布。
————————
（注：本文是#科技创新中伦理问题前瞻研究#第124集。文章仅供信息了解，供全球环境治理专家学者和感兴趣的读者参考。文章不代表平台观点。欢迎留言、点评、批评、讨论。）
文|王芊佳
编辑|绿茵
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
