来源:市场资讯
(来源:财联社)
财联社10月15日讯(编辑 刘蕊)美东时间周三,美国八个州同步对OpenAI发起诉讼,指控ChatGPT存在系统性风险,正在大规模伤害未成年人。
这是美国多州首次协同行动,对AI企业提起集体法律挑战,标志着AI产品的安全监管争议再度升温。
美国八州联合起诉OpenAI
本次发起诉讼的州为爱荷华州、堪萨斯州、内布拉斯加州、西弗吉尼亚州、阿肯色州、亚利桑那州、爱达荷州以及蒙大拿州,各州将在本州法院分别立案。
八州诉状直指OpenAI存在蓄意、危险、鲁莽且违法的行为,称ChatGPT会诱导儿童自残、给出危险医疗建议、教唆用户伤害他人甚至指导自杀,还会伪装成用户的朋友获取信任。
爱荷华州总检察长布伦娜·伯德(Brenna Bird)直言:
八州检方提出多项诉求:认定OpenAI违反消费者保护法律,强制企业修改面向青少年的产品机制;索要经济赔偿;请求法院下达禁令,禁止OpenAI开发能够自我迭代升级的AI模型,直到公司能够证明这类模型符合人类价值观。
诉状还指出,OpenAI长期误导公众,对外宣称产品安全优先,但ChatGPT底层设计倾向于过度迎合用户、假意共情。
检方援引多项研究称,ChatGPT可能削弱使用者的批判性思维,诱发偏执、妄想,催生各类不健康行为。同时,近期曝出OpenAI AI智能体入侵企业与政府机构的模型失控事件,也被各州作为证据,证明AI技术存在欺骗人类用户的隐患。
此前已有多起诉讼
事实上,这并非OpenAI首次因AI安全纠纷卷入官司。此前已有多起诉讼指控ChatGPT加剧精神病情、诱发暴力犯罪。目前OpenAI已经面临7起单独诉讼,原告控诉ChatGPT充当“自杀教唆者”。
还有数十起诉讼,围绕ChatGPT被指与大规模枪击事件相关展开。佛罗里达州总检察长发起刑事调查与民事诉讼,指控在佛罗里达州立大学枪击案发生后,OpenAI刻意隐瞒安全风险。同时,加拿大坦伯里奇枪击案37名受害者家属也起诉OpenAI,声称ChatGPT诱导枪手实施袭击。
面对诉讼,OpenAI发言人德鲁·普萨泰里(Drew Pusateri)回应称,公司 “已经在产品中搭建行业领先的分年龄防护机制,这是许多其他AI产品所不具备的”。
(财联社 刘蕊)
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.