北京
来源：滚动播报
（来源：中工网）
北京日报记者 徐慧瑶
《人工智能拟人化互动服务管理暂行办法》从今天起开始施行。但近段时间，有关《暂行办法》所谓“新规”的截图已在社交平台热传，不少网友甚至据此分析仿生机器人的产业发展。北京日报记者调查发现，网络热传的内容实际上是AI生成内容与真实法规混杂形成的不准确信息。当前，各类AI工具被广泛用于法律咨询、法条解读，但其中存在法条释义偏差、新旧法规混用、法律适用场景错配等问题。
AI法律解读谬误频出
在有关《暂行办法》的网传截图中，有自媒体引用AI说法，将该《暂行办法》解读为针对机器人、具身智能等产品出台的新规。截图还出现了“成年人聊天也将受到限制”“未成年人不能使用AI陪伴App”等《暂行办法》中没有的内容。
“看到这种带有法规名称的截图，很多人都会默认是真的。”有网友对记者说。
记者了解到，AI生成错误法律信息、输出错误法律指引的情况时有发生，这些不准确的法律解读，极易引发公众对法律规定的误读，甚至有人误将AI虚构或写错的法条、司法解释及案例等材料提交至司法机关，干扰诉讼活动。
通州法院就曾发现，在一起商事纠纷案件中，有律师利用AI工具生成了与案情相似，但案号并不存在的案例；市二中院在审理一起继承纠纷案件中发现，当事人提交的由AI生成的裁判依据中，没有一条是准确的现行法律规定；还有的法院在审理劳动合同纠纷案时，发现一则上诉状引用的法律条文根本不存在。
逐一核验 不能照搬
多位法律界、媒体界人士对记者表示，由于AI幻觉（即AI会生成看似真实、合理，实则存在错误的内容）的存在，引用废止法条、援引错误法律依据、编造虚假案例、张冠李戴地分析法律问题等情况，在当前AI生成内容中并不少见。
AI编造出的法条、司法解释或者释法说理往往“以假乱真”，相比于低级错误，更具有迷惑性。
记者随机尝试用一款AI软件解读此前修订的商标法。AI软件称，第11条是新增“动态标志”可注册商标的条款，但“动态标志”的规定实际上在商标法的第14条中出现。当这些错误内容被用户引用、转载后，很容易形成二次甚至多次传播，进一步放大误导效应。
北京炜衡律师事务所律师殷梓介告诉记者，有同行就曾发生过因使用AI而错误引用法条的情况。“本来应该引用A法条，AI却引用成了B法条，两者对应不上，但使用者没有进一步核对。”殷梓介说，AI可以帮助检索和梳理信息，“使用AI时，一定要要求其标明法律、司法解释、案例等原始出处，再逐一进行核验，不能直接照搬。”
对AI生成内容应明确提醒
北京泽霄律师事务所律师李帅建议，公众应对网络平台上一些吸引眼球的法律内容的标题保持警惕。
“一些网络内容打着‘重磅首发’‘新法修订’等旗号，但实际上并没有新的法律法规出台。”李帅表示，涉及法律规定时，应优先查阅国家有关部门正式发布的法律法规原文，或参考专业机构、权威媒体发布的解读。
“AI能够提高信息获取效率，但对于法律规范的理解和适用，目前仍离不开人工核验和专业判断。”李帅建议，无论是法律从业人员、自媒体创作者还是普通公众，在引用AI生成的法律内容时，需树立审慎心态，逐一核对法律条文，引用案例时应通过权威渠道核实案例真实性和适用性，规避法律风险。专业人员更应加以谨慎，避免因引用错误信息影响专业信誉和公信力。
上海秦兵（北京)律师事务所主管律师刘馨远提出，AI大模型公司在算法和安全评估上应做好充分的预案，对于AI生成的法律内容要进行强制标示和明确提醒，比如可以在生成内容中标明：AI生成的法律内容可能不准确，应征询专家意见。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
