上海
近日，美国生成式人工智能领域的领军企业OpenAI在加拿大陷入一场激烈的舆论风波。事件的导火索是OpenAI未能及时向加拿大政府报告其人工智能模型ChatGPT平台用户存在暴力倾向，这一疏忽导致未能及时阻止一起恶性校园枪击事件的发生，该事件最终造成包括枪手在内的9人死亡，惨状令人痛心。
（资料图）
当地时间2月26日，OpenAI向加拿大政府作出多项郑重承诺，旨在全方位加强安全机制。该公司全球政策负责人安·奥利里透露，早在“几个月前”公司就已实施一系列政策变更。这些变更措施涵盖广泛，包括积极咨询“心理健康、行为和执法专家”，以此精准判断聊天机器人的对话何时构成可信风险。奥利里明确强调，依据增强后的安全机制，一旦发现被封禁的账户，OpenAI会立即将其转交给相关执法部门，确保潜在风险得到及时处理。此外，OpenAI还承诺与加拿大执法部门建立直接且高效的联系渠道。这意味着，一旦OpenAI担忧ChatGPT用户可能计划在现实世界中实施暴力行为，便能迅速通知警方，让执法部门得以第一时间介入，将危险扼杀在萌芽状态。
此前，OpenAI曾公开表示，未联系警方处理一个被其封禁的账户，而该账户属于一名涉嫌大规模枪击案的嫌疑人。当地时间2月10日，18岁的杰西·范·鲁特塞拉尔在加拿大不列颠哥伦比亚省的一个小镇持枪行凶，疯狂枪杀了8人后自杀身亡，这起悲剧震惊了整个加拿大社会。
据了解，去年6月，OpenAI就已封禁了一个与杰西·范·鲁特塞拉尔有关的ChatGPT账户。该公司称，封禁该账户是出于对其使用与暴力活动有关的担忧。然而，OpenAI当时并未向加拿大警方通报这一情况，给出的理由竟是没有任何迹象表明即将发生袭击。这一做法彻底激怒了加拿大政府，民众也对此表示强烈不满。
当地时间2月25日，加拿大政府向OpenAI发出强硬警告：若不尽快改进其安全协议，可能针对人工智能聊天机器人制定新的监管规定。这一警告无疑给OpenAI敲响了警钟，也显示出加拿大政府对人工智能安全应用的高度重视。
这起事件不仅给受害者家庭带来了难以磨灭的巨大伤痛，也为人工智能的安全应用敲响了警钟。它引发了公众对人工智能安全应用的广泛担忧，人们开始重新审视人工智能技术在带来便利的同时，可能隐藏的巨大风险。同时，这也凸显出科技企业在平衡用户隐私与公共安全方面面临着巨大挑战。
原标题：《OpenAI在加拿大深陷舆论漩涡，承诺强化安全举措引关注》
栏目主编：戴慧菁 文字编辑：卢晓川
来源：作者：央视
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
