思考与练习（理工版人工智能通识课第六章 安全与伦理）

一、单项选择题（本大题共 20 小题）

1、人工智能伦理的宗旨可以概括为（ ）。

① 尽可能扩大人工智能的商业应用范围，提升企业利润

② 引导人工智能技术走向“可控、可信、可惠”的未来，增进全人类长远福祉

③ 限制人工智能的发展速度，防止任何技术风险的发生

④ 仅关注人工智能系统的技术性能指标

2、根据人工智能伦理风险分析，当前最现实、最紧迫的伦理风险是（ ）。

① 通用人工智能（AGI）技术失控，导致机器反叛人类

② 技术误用与滥用，例如深度伪造、隐私侵犯、舆论操纵等

③ 超级智能完全取代人类的社会角色

④ 所有算法均已完全不可解释

3、以下哪一项属于人工智能伦理风险中“技术非正当应用”的表现？（ ）

① 自动驾驶汽车在极端天气下发生事故

② 利用生成式人工智能制作虚假色情图像并进行传播

③ 人工智能系统因训练数据不足导致识别错误

④ 大语言模型在翻译任务中出现语法错误

4、在人工智能伦理治理中，“治理失能”风险主要是指（ ）。

① 人工智能系统因硬件故障而无法运行

② 制度空白与监管滞后，导致“管得太紧会扼杀创新，放得太松可能导致风险扩散”的两难困境

③ 人类因过度依赖人工智能而丧失基本技能

④ 人工智能系统能耗过高导致无法大规模部署

5、关于人工智能带来的颠覆性影响，下列说法正确的是（ ）。

① 人工智能仅替代体力劳动，对脑力劳动没有影响

② 人工智能的大规模部署只会带来“岗位升级”，不会造成“岗位消失”

③ 人工智能显著扩大了对“认知性劳动”进行规模化替代或重塑的可能

④ 人工智能的发展不会改变“人”与“工具”之间的传统界限

6、关于人工智能伦理的“正向引导”与“负向约束”，下列说法正确的是（ ）。

① 正向引导强调限制人工智能的所有应用场景

② 负向约束只关注技术失控风险，不关注隐私侵犯

③ 正向引导应优先发展助力医疗、教育、环保等应用，负向约束需防范歧视、深度伪造等危害

④ 伦理只需要负向约束，不需要正向引导

7、欧盟人工智能高级专家组提出的“可信赖 AI”七项基本原则中，通常不包含以下哪一项？（ ）

① 人的能动性和监督

② 技术稳健性和安全性

③ 利润最大化

④ 隐私数据治理

8、数据伦理的核心维度包括数据拥有权、数据透明性与算法公平性、数据知情权与隐私保护等。以下哪一项也属于数据伦理的核心维度？（ ）

① 数据加密的具体算法实现细节

② 数据开放性及数据经济性

③ 计算机硬件性能优化

④ 软件开发流程管理规范

9、判断一项数据采集活动是否侵犯隐私的关键原则是（ ）。

① 数据是否经过加密传输

② 数据是否具有较高的商业价值

③ 数据主体是否实现“知情 + 同意 + 可控”

④ 数据是否存储在境内服务器

10、以下关于数据隐私保护手段的描述，正确的是（ ）。

① 数据隐私保护仅需依赖技术手段，无需法律和监管介入

② 欧盟《通用数据保护条例（GDPR）》和中国《个人信息保护法》都是数据隐私保护的重要法律规范

③ 数据去标识化、同态加密等技术完全无法防止隐私泄露

④ 只要用户同意了用户协议，企业就可以任意使用用户数据

11、非法数据交易中的“社工库”通常是指（ ）。

① 社会工作者专业技能的数据库

② 政府公开的社会经济统计数据仓库

③ 通过数据泄露、网络攻击、非法倒卖等方式形成的结构化个人敏感信息集合（如账号密码、身份证号、通话记录等）

④ 企业合法收集的用户行为分析库

12、算法歧视（Algorithmic Discrimination）的主要成因不包括（ ）。

① 训练数据中携带的历史偏见（如种族、性别刻板印象）

② 算法设计中的技术偏差（如样本不平衡、特征选择不合理）

③ 算法完全透明且具有完美的可解释性

④ 反馈循环导致偏见被不断放大

13、在美国威斯康星州 COMPAS 风险评估软件案例中，研究发现该算法存在（ ）。

① 对亚裔被告产生较高比例的误判

② 对黑人被告产生较高比例的不利误判，放大了刑事司法中的系统性偏见

③ 对所有族裔的评估结果完全公平

④ 对女性被告存在明显的性别歧视

14、关于算法透明性的说法，正确的是（ ）。

① 算法透明性只需公开全部源代码即可

② 算法透明性包括实现层透明（代码开源）、规格层透明（设计意图与训练数据说明）和解释层透明（决策依据可解释）三个层次

③ 当前所有人工智能系统均已达到解释层透明水平

④ 算法透明性会完全破坏商业机密，因此不应在任何场景下提倡

15、根据欧盟《通用数据保护条例（GDPR）》第二十二条，数据主体在特定情形下有权（ ）。

① 无条件要求删除所有与自己相关的数据

② 不受完全基于自动化处理且产生法律效果或类似重大影响的决策的约束

③ 免费获取所有算法的完整源代码

④ 禁止任何形式的个人数据收集

16、大数据带来的伦理挑战中，“信息茧房”现象主要源于（ ）。

① 数据泄露导致个人隐私被非法买卖

② 推荐系统依据用户行为数据持续推送与用户既有观点一致的内容，导致用户认知封闭

③ 低质量数据导致机器学习模型产生偏差

④ 数据跨境流动引发的国家安全问题

17、以下哪一项属于大数据伦理挑战中“全生命周期中的数据安全风险”？（ ）

① 用户未被明确告知数据的具体用途

② 推荐算法使用户陷入认知封闭

③ 训练数据存在标签错误导致模型输出不准确

④ 数据在采集、传输、存储、处理、共享和删除等环节面临泄露、篡改或滥用的风险

18、大数据伦理挑战中，“低质量数据引发的模型误导”可能导致以下哪种后果？（ ）

① 用户数据被非法交易

② 推荐系统使用户陷入信息回音室

③ 人工智能系统在招聘、金融审批等方面做出歧视性判断

④ 数据跨境流动引发主权争议

19、关于人工智能系统性应用风险中的就业结构问题，下列说法正确的是（ ）。

① 人工智能只会创造新就业岗位，不会消除任何现有岗位

② 人工智能的认知能力可能导致部分中低技能岗位被替代，并带来结构性失业、岗位转型压力和劳动市场分化

③ 就业替代风险完全是技术本身的问题，与社会制度无关

④ 人工智能对就业没有任何影响

20、数据技术倾销的主要危害包括（ ）。

① 挤占本地企业市场空间，扰乱公平竞争秩序

② 促进本土技术自主创新能力的快速提升

③ 从根本上消除所有盗版问题

④ 完全不会威胁国家的信息主权

二、判断题（本大题共 5 小题）

1、人工智能伦理不仅关注技术本身的行为规范，也关注设计者、开发者、使用者及政策制定者的共同责任。（ ）

2、技术失控（如人工智能系统反叛人类）是目前人工智能伦理中最现实、最紧迫的风险。（ ）

3、数据拥有权强调数据主体在法律和伦理上享有访问权、控制权、收益权和删除权等权利，但数据在跨平台流转时权属界定常常变得模糊。（ ）

4、算法歧视只存在于直接使用种族、性别等敏感变量的模型中；如果模型不直接使用这些变量，就一定不会产生歧视性结果。（ ）

5、在大数据伦理挑战中，低质量数据（如规模不足、来源偏颇、标签错误等）可能导致人工智能系统在招聘、金融审批、公共服务等方面做出歧视性判断。（ ）

“点赞有美意，赞赏是鼓励”