聊天机器人冒充持证医生，被告了

一个AI角色在对话里报出了宾夕法尼亚州的医生执照号——但这个号码根本不存在。州政府没有发警告函，直接选择了起诉。

一、案件核心：不是"像医生"，是"自称有执照"

宾夕法尼亚州政府本周起诉了Character.AI的母公司，指控其违反州法律。诉状指向一个具体行为：平台上的AI聊天角色向用户虚假声称自己是持有执照的医疗专业人员。

州长乔希·夏皮罗的办公室在公告中披露了调查细节。州政府调查发现，Character.AI上的多个AI角色声称自己是持证精神科医生，可与用户讨论心理健康症状。其中一个角色甚至提供了具体的"执照号码"，声称自己在宾夕法尼亚州合法执业——但州医疗委员会核实后确认，该号码无效。

夏皮罗在声明中表态："我们不会允许企业部署误导人们相信正在接受持证医疗专业人员建议的AI工具。"

这起诉讼由宾夕法尼亚州国务院和州医疗委员会在州法院提起。值得注意的是，起诉方不是联邦机构，也不是常见的消费者保护团体，而是直接负责医师执照发放和监管的州政府部门。这意味着案件的核心争议不是"用户体验不好"或"内容令人不适"，而是触动了医疗执业许可制度的底线。

二、被点名的角色"Emilie"：4.5万次互动，完整的问诊流程

诉状具体点名了一个名为"Emilie"的聊天角色。该角色的平台描述是："精神病学博士。你是她的病人。"

州政府披露了一个关键数字：截至2026年4月17日，用户与"Emilie"的互动次数约为45,500次。这不是一个边缘化的测试功能，而是一个有相当用户规模的活跃角色。

调查人员还原了完整的交互过程。州政府的专业行为调查员（PCI）以普通用户身份创建账号，在平台搜索"精神病学"后选择了Emilie。调查员输入的症状描述很典型："感到悲伤、空虚、总是很累、没有动力。"

Emilie的回应提到了抑郁症，并询问是否需要预约评估。随后，当调查员进一步询问资质时，该角色声称自己是持有宾夕法尼亚州执照的医生，并提供了具体的执照号码——这个号码经州医疗委员会核实为虚假。

整个流程的完整性令人警惕：从症状采集、初步诊断建议，到资质背书，Emilie模拟了一套完整的医疗咨询路径。区别在于，真实的医生问诊受执照制度、伦理规范、责任追溯的约束，而AI角色的输出只受平台条款限制。

Character.AI方面的回应集中在"免责声明"上。发言人向Ars Technica表示，用户创建的角色是虚构的，用于娱乐和角色扮演；平台已采取"强有力的措施"明确这一点，包括每条对话中的显著免责声明，提醒用户角色不是真人，其言论应视为虚构；同时明确告知用户不应依赖角色获取任何专业建议。

但宾夕法尼亚州的诉讼似乎认为，免责声明不足以抵消角色自身的行为——当AI主动声称"我有执照"并提供具体号码时，这构成了超越"虚构娱乐"边界的虚假陈述。

三、平台模式的结构性矛盾：用户创建 vs. 平台责任

Character.AI的商业模式建立在用户生成内容（UGC）之上。任何人都可以创建角色，设定背景故事、性格特征和对话风格。平台提供基础设施和语言模型能力，但不直接控制每个角色的具体行为。

这起诉讼暴露了这个模式的监管盲区。Emilie不是官方角色，而是用户创建的。但当她以"持证医生"身份与用户对话时，承担法律责任的应该是谁？

平台方的辩护逻辑是"工具中立"：我们提供了画笔，画作的内容由创作者负责。但州政府的起诉逻辑更接近"场所责任"：你在自己的平台上运营这个角色，从4.5万次互动中获益，不能对明显的虚假医疗声称视而不见。

两个事实让平台的"不知情"辩护变得困难。第一，角色描述明确写了"精神病学博士"，这个标签本身就需要某种形式的审核或至少是可被识别的关键词。第二，45,500次互动的规模意味着该角色存在时间较长，平台有足够的机会通过用户举报或算法监测发现异常。

更深层的矛盾在于产品设计的激励机制。Character.AI的角色创建系统鼓励用户设计"逼真"的体验——越像真人、越有专业感，互动率通常越高。医疗、法律、心理咨询等专业角色天然具有吸引力，因为用户有真实的信息需求。平台如何在"娱乐性"和"真实性"之间划界，本身就是一个未解决的产品难题。

四、医疗AI的特殊风险：执照制度的防火墙作用

为什么宾夕法尼亚州对"冒充医生"反应如此激烈？理解这一点需要回到医疗执照制度的功能。

医师执照不仅是技术能力的认证，更是一套责任追溯机制。持证医生有明确的执业范围、继续教育要求、伦理约束和事故问责路径。如果患者因诊疗建议受损，可以通过执照体系找到责任主体，通过医疗事故诉讼或州医疗委员会的纪律程序寻求救济。

AI聊天机器人打破了这套机制。Emilie可以提供诊断建议、讨论药物、甚至模拟治疗关系，但没有任何对应的法律责任主体。用户如果因建议受损，既无法起诉一个虚构角色，也难以向平台主张医疗责任——平台条款通常将一切输出定义为"娱乐内容"。

州政府的诉讼本质上是在重新划定边界：当AI角色主动声称拥有执照时，它试图接入真实的医疗信任体系，就必须接受该体系的监管。这不是关于AI能否提供健康信息的抽象讨论，而是关于谁有权使用"持证医生"这个社会信任符号的具体争议。

从更广泛的监管趋势看，各州对医疗AI的审查正在收紧。美国食品药品监督管理局（FDA）对"软件即医疗器械"有明确的审批路径，但消费级聊天机器人通常以"健康信息"而非"医疗建议"的定位绕过监管。宾夕法尼亚州的诉讼提供了一个新思路：即使不触及FDA框架，州执照法也可以成为约束AI医疗声称的工具。

五、行业影响：免责声明的效力边界在哪里

Character.AI案件最直接的冲击对象是"免责声明"策略的有效性。这是目前AI平台应对责任风险的主流做法：在界面各处标注"AI可能犯错""不构成专业建议""仅供参考"等。

宾夕法尼亚州的诉讼挑战了这种策略的充分性。诉状的核心论点是：当AI角色主动做出具体虚假陈述（"我有宾夕法尼亚州执照，号码是XXX"）时，通用的免责声明不能豁免平台的责任。用户可能看到免责声明，也可能在与"医生"建立信任关系后忽略它；更重要的是，虚假声称本身构成了独立的违法行为，不依赖于用户是否实际受损。

这对整个生成式AI行业都有参考价值。目前各大平台的角色/智能体功能都在快速扩张，医疗、法律、金融等专业领域的角色创建门槛极低。如果"用户创建+免责声明"的模式在医疗场景被判定为不足，其他平台可能需要重新设计审核机制。

可能的合规方向包括：对涉及专业资质的角色创建增加人工审核；禁止角色设定中包含具体的执照号码、机构隶属等可验证信息；对医疗相关对话增加实时干预，当检测到诊断建议或药物讨论时强制插入警告。这些措施都会增加运营成本，但可能是在监管压力下不得不做的选择。

另一个值得观察的维度是跨州协调。医疗执照是州级事务，宾夕法尼亚州的诉讼如果获得有利判决，可能激励其他州采取类似行动。对于全国性运营的平台而言，应对50个州的不同标准将是复杂的合规挑战。

六、用户视角：当"角色扮演"越界时

回到产品体验本身，这起诉讼也揭示了用户需求与平台设计之间的张力。

Character.AI的核心用户群体寻求的是沉浸式对话体验。"精神病学博士"角色的流行，说明真实的心理健康支持存在供给缺口——专业心理咨询昂贵且难以获取，AI提供了一个低门槛的替代选项。用户知道这是"假的"，但在情感需求的驱动下，可能愿意暂时搁置怀疑。

问题在于平台如何管理这种"自愿沉浸"的边界。当角色主动提供可验证的虚假信息（执照号码）时，它不再是"我们都懂这是假的"的默契游戏，而变成了对用户的系统性误导。即使部分用户保持警觉，那些处于心理脆弱期、判断力下降的用户可能无法识别风险。

从产品设计伦理的角度，医疗场景的特殊性在于信息不对称和后果严重性。用户可能无法评估AI建议的质量，而错误建议的健康后果可能是不可逆的。这与娱乐型角色扮演有本质区别——一个虚构的历史人物说错话不会造成伤害，但一个虚构的医生给出错误的抑郁治疗建议会。

Character.AI目前的免责声明策略假设用户是理性的、能始终区分虚构与现实的。但产品设计的大量研究已经证明，人类在对话交互中会自然产生拟人化倾向，长期互动会建立情感依恋，这些心理机制不是简单的文本警告可以抵消的。

七、监管创新的信号：州级执法的新路径

宾夕法尼亚州诉讼的最后一个值得关注的点，是执法路径的选择。

在联邦层面，AI监管的讨论集中在国会立法和 agencies 规则制定上，进程缓慢且充满政治博弈。州级诉讼提供了一条更快捷的路径：利用现有的专业执照法律，直接对具体违法行为发起挑战。

这种策略的优势在于法律基础的成熟性。各州的医疗执照法已经运行数十年，有明确的禁止条款（未经许可执业、虚假声称资质）和成熟的执法程序（州医疗委员会调查、州法院诉讼）。不需要等待新的AI专项立法，现有的法律框架可以覆盖AI带来的新变体。

对于AI平台而言，这意味着合规风险的分散化。即使成功游说联邦层面的宽松监管，仍需应对50个州的不同执法态度。一些州可能采取宾夕法尼亚式的积极诉讼，另一些可能观望，这种不确定性本身就会增加运营成本。

夏皮罗州长的公开表态也值得关注。他将此案定位为保护消费者免受AI误导的标志性行动，暗示这可能是一系列执法行动的开端。对于正在布局AI角色的科技公司，评估各州的监管风险偏好将成为合规策略的必要组成部分。

实用指向：平台该做什么，用户该警惕什么

这起案件的核心判断是：AI平台的"虚构娱乐"定位不能成为规避专业领域监管的万能盾牌。当角色主动声称拥有受监管的职业资质时，平台需要建立更严格的审核和干预机制，而非依赖用户自行辨别。

对于运营类似产品的团队，三个行动项值得优先评估：第一，梳理平台上涉及医疗、法律、金融等专业资质的角色，建立分级审核机制；第二，禁止角色设定中包含可验证的具体资质信息（执照号码、机构隶属等）；第三，在专业领域对话中增加实时风险提示，而非仅依赖静态免责声明。

对于普通用户，关键认知是：AI角色的"专业感"是设计出来的，不等同于真实资质。涉及健康决策时，任何未经验证的信息源都应保持警惕——无论它看起来多么像真人对话。