湖北
我一个朋友开了个小公司，二十来个人，做跨境电商。上个月，他们的服务器突然蓝屏，重启后系统报错“核心文件缺失”。IT鼓捣了半天才发现，是某知名杀毒软件的AI主动防御模块，把Windows的一个系统文件当病毒给隔离了。
这个AI的逻辑是：这个文件的数字签名不常见，且它试图修改注册表，判定为勒索病毒，立即查杀。
但那个文件是Windows正版系统更新包的一部分。数字签名不常见，是因为微软签发的证书刚过期。修改注册表，是因为系统更新本来就该改。
结果呢？服务器瘫痪三天，业务停摆，损失大概40万。
公司找杀毒软件厂商索赔。厂商拿出用户协议，上面写着：“本软件采用AI主动防御技术，可能存在误报。用户使用即视为同意承担误报风险。本公司不对任何因误报导致的直接或间接损失承担责任。”
也就是说，你点“我同意”的时候，已经把追责的权利点没了。
问题来了，这种免责条款有效吗？
《民法典》第497条说了，免除一方主要义务、加重对方责任的格式条款无效。杀毒软件的核心义务是什么？是杀毒。但如果它的“杀毒”行为本身就能毁掉你的系统，那这个“核心义务”到底是保护你还是摧毁你？
法院判过类似的案子。一家公司的服务器被杀毒软件删了文件，起诉厂商，最后调解结果是赔了5万，不是按照实际损失赔的，而是按照“服务合同违约”赔的。也就是说，厂商承认自己服务有问题，但不承认要承担你的商业损失。
法官的逻辑是：你用杀毒软件的时候应该知道它可能误报，所以你应该做备份。你没做备份，你自己也有责任。
翻译一下：你可以信AI，但你不能全信AI。你要信AI，你就得有本事扛住AI犯浑。
我那个朋友后来换了杀毒软件，然后做了三件事：备份，备份，再备份。
他说了一句话我记到现在：AI不会替你承担后果，所以永远不要把你的公司押在AI不出错上。备份才是真的人工智能。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
