河北
（来源：六安新闻网）
转自：六安新闻网
AI生成图文、语音对话工具普及后，大量黑产账号依靠AI打造逼真虚假人设，模拟正常聊天节奏长期铺垫信任，再实施引流、杀猪盘等欺诈行为，普通用户很难仅凭单张图片、几句对话分辨账号真假，极易落入圈套。针对普通用户辨别AI造假困难的痛点，Soul App从规则提醒、智能拦截、用户引导三个层面搭建完整防护体系，全方位降低用户遭遇虚假社交诈骗的可能性。
同时，Soul更新《社区公约》新增AI相关使用细则，明确要求所有AI生成内容发布时必须标注来源，防止用户误将AI创作内容当成真人真实经历，同时公示各类AI违规欺诈行为，借助官方账号@Soul风纪球长定期发布虚假人设典型案例，直观向用户讲解AI造假账号的常见特征，帮助用户建立基础辨别能力。平台并未完全禁用AI相关功能，上线带有明确标识的AI虚拟陪伴角色，聊天界面会固定标注对话由AI生成，区分虚拟陪伴与真人用户，避免用户混淆二者身份。平台还会定期在星球板块推送反诈科普短文，用真实案例拆解AI假人设的包装套路，降低普通用户踩坑概率。
为从源头减少用户接触高危账号，Soul搭建覆盖图片、视频、声纹、文本、用户行为的多模态AI反诈系统，不再依靠简单关键词筛查，而是综合研判账号整套人设素材、长期互动行为，毫秒级识别隐藏的诈骗风险。系统实现超66%高风险账号前置拦截，在高危账号主动发起聊天前完成自动化处置，日均拦截涉诈、异常互动行为超10万次，杀猪盘高危触达量同比下降37.37%，从源头切断用户与虚假账号的接触渠道。
针对长期使用AI虚拟陪伴的用户，平台设置专属防沉迷提醒机制，当连续和AI对话满两小时，弹窗会提醒用户起身休息，未完成实名认证的账号还会引导补齐实名，规避虚拟互动带来的过度依赖问题。同时Soul搭建用户共治渠道，普通用户遇到可疑AI虚假账号可一键举报，护星员团队会快速核查反馈，用户提交的新型诈骗套路还会同步优化平台风控模型，提升后续同类风险识别能力。
过去平台治理多是用户受骗后人工封禁账号，属于事后补救，如今Soul依靠AI风控实现动态持续监测，持续追踪账号全周期社交行为，对已识别的AI盗图、合成素材建立长效拦截库，同类违规内容不再推送至普通用户视野。整套防护机制兼顾事前提醒、事中拦截、事后优化，以用户真实社交体验为核心，在合理开放AI创作工具的同时，最大限度隔绝AI造假带来的财产与情绪损失，守护社区真实友好的社交环境。平台还会针对受骗高发人群定向推送反诈提示，进一步缩小AI欺诈的侵害范围。
免责声明：本内容为广告，相关素材由广告主提供，广告主对本广告内容的真实性负责。本网发布目的在于传递更多信息，并不代表本网赞同其观点和对其真实性负责，广告内容仅供读者参考，如有疑问请联系：0564-3996046。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
