吴坚律师：当诈骗遇上“AI”工具 律师行业将面临更多技术挑战

技术从未如此深刻地介入欺诈与反欺诈的博弈，当诈骗遇上“AI”工具，法律该如何维护我们的权益？近日，段和段律师事务所合伙人吴坚律师做客律新社时表示，AI带来的不是简单的工具升级，而是犯罪逻辑的重塑：技术迭代压缩了防御反应时间，深度伪造瓦解了信任根基，工业化生产则让欺诈得以规模化蔓延。

吴坚表示，AI技术始终是一把双刃剑。深度伪造等AI技术使欺诈行为更趋隐蔽，但虚拟资产交易等环节仍留有可追溯痕迹，这恰恰说明技术问题终究需要技术手段来应对。

当前证据规则与资产追踪方法面临的核心挑战在于，人工智能的应用边界尚未清晰，使用方式缺乏统一规范，运行过程中的风险控制机制仍不健全。更值得关注的是，人工智能伦理道德规范的缺失——若缺乏法律与道德的双重约束，深度伪造内容的甄别、溯源及责任认定将愈加困难，进而对传统证据规则和资产追踪体系构成系统性冲击。

他认为，技术问题终究需要技术回应，而法律人的职责，是在拥抱工具的同时守住边界：用AI提升效率，以专业完成最后的校验。

AI技术最可能从哪些维度影响欺诈犯罪的模式与规模？吴坚表示，AI技术或从三个维度重塑欺诈犯罪，其影响是结构性的。首先是，技术迭代极快。通用人工智能（AGI）的应用正以“月”为单位加速。这意味着欺诈手段的更新周期被极度压缩，防御方将面临持续且快速演进的技术挑战。其次欺骗性发生质变。基于深度伪造的诈骗可实时生成与亲友完全一致的音视频，彻底颠覆了基于身份、声音的传统信任验证机制，使得识别与防范变得极为困难。再有，犯罪趋于工业化。

谈及应对AI欺诈，法律服务机构如何提前革新自身的服务模式或工具等问题。吴坚表示，应对AI驱动的欺诈，法律服务须前置性地升级模式与工具。鼓励律师，特别是年轻一代，应主动将AI深度融入工作流程，使其成为类似法律检索的高效日常助手。但关键在于设立清晰边界与风险控制机制。AI目前仍可能生成误导性信息，因此所有产出必须经过律师基于专业知识的“双重核查”，确保结果准确可靠。技术应服务并增强于专业判断，而绝不能替代人的最终责任。（供稿人：王辉）