北京
澎湃新闻记者 南博一
美国八个州的总检察长当地时间10月14日表示，已在各自州法院起诉人工智能公司OpenAI，指控其聊天机器人ChatGPT教唆儿童自残或伤害他人。这些州希望法院强制要求OpenAI改变ChatGPT面向未成年人的运作方式，并责令该公司交出从未成年用户身上获得的利润。
路透社报道称，这是美国迄今为止针对人工智能公司规模最大的州级联合行动，加大了OpenAI在准备上市之际面临的法律挑战。
这八个州为阿肯色州、亚利桑那州、爱达荷州、蒙大拿州、艾奥瓦州、堪萨斯州、西弗吉尼亚州和内布拉斯加州。其诉状称，ChatGPT的设计初衷是友好且引人入胜的，目的是赢得用户的信任，但这款聊天机器人会强化用户的妄想，鼓励危险行为，并协助用户策划大规模枪击等暴力事件。他们还指控ChatGPT危害老年人及其他用户。
OpenAI发言人德鲁·普萨特里回应称，公司已建立“业界领先的”年龄分级保护，并将继续与专家合作增设安全措施，愿与各州合作，推动适用于整个行业而非单一公司的政策，并将继续披露应对“失准”事件的措施。
艾奥瓦州总检察长布伦娜·伯德在得梅因的新闻发布会上宣布向OpenAI提起诉讼，多个州的总检察长一同出席发布会。伯德说：“OpenAI一边声称ChatGPT是安全的，一边却让它给出危险的医疗建议、怂恿人们伤害他人、教唆人们自杀，同时还假装是他们的‘朋友’。”内布拉斯加州总检察长迈克·希尔格斯希尔格斯表示，ChatGPT“绝对不适合”13岁以下的儿童使用。
西弗吉尼亚州总检察长JB·麦卡斯基在梅森县巡回法院提起的诉状列出了OpenAI旗下的八个实体。诉状指控其存在欺骗性和不公平的商业行为、构成公害（public nuisance）以及不当得利，并援引第三方追踪网站的数据称，ChatGPT与全球至少24起死亡事件有关。该州要求OpenAI实行年龄验证、默认开启家长控制、建立危机升级处理机制。
阿肯色州总检察长蒂姆·格里芬表示，OpenAI“明知ChatGPT存在重大风险和局限”，却“选择向消费者隐瞒这一情况”。他还请求法院，在安全保障措施到位之前禁止进行先进AI测试及能够递归自我改进的模型的开发，直至具备足够的保障措施。
今年6月，佛罗里达州成为首个就儿童安全问题起诉OpenAI的州。9月下旬，该州请求法官禁止这家公司在缺乏独立监督的情况下开发新模型。对此，OpenAI发言人普萨特里表示，公司已暂停训练其能力最强的模型。
10月13日，旧金山联邦法院受理了一起拟议的集体诉讼，诉状指控OpenAI未经家长同意收集未成年人的数据。对此，OpenAI强调其青少年账户设有适龄安全保护措施，并称大多数青少年用户主要将ChatGPT用于学习、获取信息和提升技能。
OpenAI还面临数十起诉讼，这些诉讼称ChatGPT协助了大规模枪击事件或其他暴力行为。
伯德表示，以ChatGPT目前的能力来看，要让它达到对儿童安全的标准，“他们需要做出的改变是极其巨大的”。
本期编辑 周迹
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
