日本右翼搞大模型“投毒”，如何反制？

来源：市场资讯

（来源：环球网资讯）

来源：环球时报

【环球时报报道 记者 陈子帅】据报道，日本右翼势力持续向国际主流大模型提供经过篡改的二战历史语料，一些大模型在对话中输出带有明显错误史观的回答。对于这种数据“投毒”行为，有什么技术手段可以应对和防范？对此《环球时报》记者采访了多位人工智能（AI）专家。

国外大模型能否甄别日方的数据“投毒”

在日前举行的中国外交部记者会上，有记者提及，据披露，日本右翼势力持续向国际主流大模型提供经过篡改的二战历史语料，被“投毒”的大模型在对话中输出带有明显错误史观的回答。例如，将七七事变称为“日中军事冲突”，将南京大屠杀淡化为“南京陷落”，将日本侵略东南亚美化为“对南方资源的关心”等。

“外交部记者会上提到的国际主流大模型，以西方国家的大模型为主。”对外经济贸易大学国家安全与治理研究院研究员梁怀新在接受《环球时报》记者采访时表示，“投毒”行为主要就是污染相关数据池，从识别的角度来看，国外大模型企业是完全能够做到，同时也可以通过对数据的错误价值观材料进行重点筛选，构筑防火墙。

深圳市人工智能与机器人研究院具身智能中心主任刘少山持同样观点，他告诉《环球时报》记者，对于日本右翼势力借助新型技术搞数据“投毒”，大模型公司能够在技术上进行防范和反制。“目前西方AI公司都是在智能层面进行竞争，不够重视安全与事实核查问题。行业需要进一步发展数据溯源技术。”

相关国家应对本国大模型企业进行监管

上述专家一致认为，错误生成结果的出现，体现了相关国外AI企业在监管方面的漏洞和弊病。

“但现在问题的关键就是西方的大模型企业是否有足够的意愿弥补相关的漏洞。因此这一问题解决仅仅依靠国外大模型企业的自律，从现阶段来看是比较不现实的。国际社会在这个问题上需要做更多的努力。”梁怀新建议，应多渠道要求和敦促相关国家对其本土大模型企业进行监管，日本方面的相关“投毒”行为实质上已经危害到了二战后包括中国和美国在内的国家关于战争与和平以及国际秩序的共识。因此相关国家有责任对其本土大模型企业进行正确监管。并且可以在与更广泛的国际社会进行AI治理过程中，提出相应倡议，要求把维护和确保大模型在历史等重点问题上价值观正确，明确为大模型行业发展的国际社会共识。

现阶段中国AI企业在国际大模型领域具有重要地位，在梁怀新看来，中国AI企业在这一问题上也能发挥积极作用。“我方应鼓励中国大模型企业加强与国外大模型企业的对话，尝试共同推动国际大模型行业在关乎二战后国际秩序、关于世界反法西斯共识等方面达成行业自律。促动国外大模型企业在相关问题上进行正确的治理。”

此外，梁怀新认为，中国的大模型企业等机构，也可以尝试通过定期发布国外大模型平台价值观测评安全报告等方式，对国外大模型上存在的日本军国主义“投毒”等行为进行定期披露，以正视听，向国际社会揭露日本军国主义行径。

技术层面，如何反制

“日本右翼借助大模型实施历史类数据‘投毒’，是利用AI歪曲二战史实、服务再军事化的新手段。”北京邮电大学人机交互与认知工程实验室主任刘伟对《环球时报》记者表示，各方可多措并举反制：大模型企业要搭建权威历史基准知识库，强化语料审查、事实校验与红队测试，拦截被篡改史料；受害国可建设多语种权威史料数据集，留存证据，发挥史学专家的研判能力，弥补机器识别隐性话术的短板；国际社会可依托多边平台凝聚共识，明确禁止借AI洗白战争罪行，形成监督与舆论合力。“也要看到，隐蔽‘投毒’难以被技术完全封堵，技术防护、史料供给与人类历史共识相结合，才是抵御历史虚无主义的完整防线。”

梁怀新表示，日本对国际主流大模型历史观的毒化，影响的是整个国际社会关于二战的正确历史认知。他建议，国际上的有识之士可进一步梳理国际主流大模型在相关问题上的错误数据生成，构建历史问题正确价值观素材库，特别是英文及日文数据素材，要求国际大模型平台以正确数据为模型基础，剔除错误数据，修正被日本方面毒化的模型数据。

复旦大学中国研究院副研究员刘典在接受《环球时报》记者采访时表示，最需要警惕的是，历史歪曲一旦进入模型，就可能披上“技术中立”的外衣，被反复引用和传播，让政治操弄变成看似客观的知识。应对这一风险，要把历史辨伪与技术治理结合起来。对有关日本右翼“投毒”的线索，应通过数据溯源、跨语种测试和独立审计核实，区分训练数据污染、检索来源失真与模型自身错误，查清问题出在哪个环节。国内应推动档案馆、历史研究机构与人工智能企业合作，将原始档案、审判文书和可靠研究整理成可核验、可追溯的数字资源，建立历史事实评测题库。对发现的问题，要求相关平台清理污染来源、修订检索内容，并通过针对性训练和持续测试纠偏。不能只纠正一次回答，更要追查错误为何反复出现。

刘典表示，国际合作的基础是尊重历史事实、维护和平、反对美化侵略。可以联合中国、韩国、东南亚及欧美的历史学者、档案机构，以及坚持历史良知的日本学者和民间团体，共建多语种的历史事实与和平价值数据库。价值原则需要明确，历史事实必须由证据支撑，做到原始资料可查、翻译可校验、争议有标注，并由跨国专家共同审核。还可倡议在联合国教科文组织等平台开展历史信息真实性与人工智能伦理合作，推动模型企业接入可信史料，建立第三方评测、公开纠错和版本追踪机制。数据库能够支持纠偏，但不会自动修复模型，仍需企业配合清洗数据、更新模型并接受复测。

外交部发言人毛宁在日前举行的外交部记者会上表示，日本军国主义侵略罪行铁证如山，不容否认。借助新型技术搞数据“投毒”，是日本右翼势力歪曲美化侵略历史的新伎俩，目的仍然是扭曲全球公众对二战的历史认知，为日本摆脱战后体制约束、加速“再军事化”扫除舆论障碍。日本右翼势力用心险恶的暗箱操作，是对被侵略国人民感情的严重伤害和对人类良知的公然践踏，国际社会必须提高警惕、共同抵制。