湖北
分享至
4月14日，哩布哩布AI发布关于加强内容安全管理的说明：
近期媒体对AI生成内容安全问题的讨论，我们已关注并高度重视。第一时间启动内部专项排查，对平台生成能力及审核机制进行了全面自查。经排查发现，在个别复杂提示词组合及规避表达的边界场景下，平台存在生成不符合规范内容的情况。
对此，我们深表歉意。本次问题也为我们敲响了警钟，使我们清醒认识到在内容安全边界识别与机制完善方面仍存在不足，未达到应有标准。相关问题已第一时间完成技术修复，并对风险路径进行全面封堵。同时，我们已同步加强攻防演练与审核机制升级，持续提升识别能力与处置效率，从源头降低风险发生。我们也已启动内部责任复盘机制，进一步完善相关管理与审核流程。
内容安全是平台的底线。我们将以更高标准持续完善内容安全体系，推动平台生态健康有序发展。也诚挚邀请用户与社会各界共同监督，共建更加清朗的网络空间。
据央视财经报道，在一款名为哩布哩布AI的AI应用里，记者输入在网上购买的提示词后，仅仅几分钟，这个AI平台就生成了一个半裸身体的女性跳舞视频。在整个生成过程中，没有触发平台任何限制机制。
（来源：哩布哩布AI、央视财经）
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
