一套用来给AI项目"体检"的系统,最近在巴西公共部门铺开了。据相关消息,AI伦理影响自评系统(AIE)的线上版本已向250多家机构开放,覆盖巴西信息技术资源管理系统(SISP)的成员单位,其中包括巴西通信部(MCom)。
这套工具要做的事很具体:帮机构识别AI项目里的伦理风险,并评估项目团队在治理上的实际做法。它由巴西管理与公共服务创新部(MGI)开发,世界银行提供咨询,此前只有离线版本,如今线上版正式取代了旧模式。
两步走完一次评估
评估流程分两个阶段。第一步,机构填写问卷,系统据此识别并给项目的伦理风险定级——低、中、高或"过度"。第二步,这个定级结果会导向不同的专项问卷,用来分析负责团队在伦理与治理上的具体实践。
流程走完后,系统会给出改进建议,点出需要关注的地方,并帮助机构建立风险预防与缓解措施。评估不限定在项目某一个节点,开发和使用系统的不同阶段都能做,方便机构持续跟踪、逐步完善自己的做法。
通信部先摸家底
作为使用方之一,巴西通信部已经启动了一项摸底调查,了解本单位公务员和合作人员在AI使用上的成熟度。这份诊断将作为基础,用来梳理现有知识、找出培训需求,以及发现技术在本机构业务中的落地机会。
通信部的计划里还包括培训行动和机构指导方针的制定,涉及治理、数据保护、人工监督等方面。该部信息技术副秘书古斯塔沃·席尔瓦(Gustavo Silva)在介绍这些正在推进的举措时,说明了上述内容。
这套评估工具被纳入巴西人工智能计划(PBIA)的负责任治理议程。在该计划中,通信部负责数字化转型、包容与可持续发展等方向。按计划定位,PBIA汇集了一系列行动,目标是推动技术的开发与负责任使用,同时让公共管理部门为引入人工智能做好准备。
从技术开发、人员培训到治理框架,PBIA试图把这几条线拧在一起,既服务国家发展,也改善公共服务质量。计划还提出,要让机构和专业人员具备抓住数字化转型机会的能力,同时注意保护公民权利。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.