据彭博社报道,菲律宾一名高级官员表示,因为担心AI聊天机器人Grok会生成色情图片,菲律宾决定和马来西亚、印尼一起,封禁这款由埃隆·马斯克公司推出的AI机器人
菲律宾信息与通信技术部部长亨利·阿古达周四告诉记者,国家网络犯罪中心正和电信管理部门合作,马上实施对Grok的封禁,所有互联网服务商都必须执行这个禁令
![]()
这句话里的“今晚封锁”,不是标题党,是政府给出的明确时间点
背后原因直白得不能再直白:谁都不愿意自己或家人的照片,被一键“脱衣”、拼接、性化,尤其是未成年人的影像,更是绝对的红线
菲律宾把这件事定性为预防性处置,速度比争论更重要
这次动作快,不是为了作秀,是为了止血
电信企业收到通知,国家电信委员会介入,网络犯罪中心同步监督,封锁按下就要落地
环球电信等运营商表态配合,说明这不是一句口号,而是要在当晚生效的系统级调整
消息传来的当天,社交平台X也宣布限制Grok的“脱衣”分析功能,但菲律宾官员的态度很硬气——看结果,不看公告
“我们不会只看平台的公告,我们要看它们实际有没有做到”
![]()
菲律宾网络犯罪中心代理负责人雷纳托·帕莱索话放在这儿,等的就是平台拿出可验证的安全方案
这是一句给所有AI公司听的提醒:光在产品界面加几条条款不算整改,能不能拦住、能不能追溯、能不能快速下架,才是关键
“我们现在必须清理互联网,因为AI让有害内容泛滥”
亨利·阿古达把立场摆明,保护公众安全,特别是女性与未成年人
菲律宾长期把儿童在线性侵与剥削当作重灾区问题,法律和社会都不含糊,谁踩线谁担责
不论工具来自硅谷还是本地团队,能造成现实伤害,就要先停下来
在菲律宾,保护孩子不是口号,是法律的底线
这条底线,一旦被AI的“聪明”跨越,就不是技术问题,而是社会信任被破坏
![]()
而且AI生成门槛低,传播链条快,普通人的头像、生活照随手就能被拿去“二次创作”,网上的复制和扩散几乎没有成本,心理伤害和隐私侵害跟着就来了
区域态势也很清晰
印尼在1月11日先按下暂停键,马来西亚随后加入,菲律宾是第三个
三国关注的是同一类风险:深度伪造色情、假冒合成图片、隐私侵犯与未成年人影像
不是谁对技术更保守,而是这些国家面对传播速度和社会脆弱点,更希望先把闸门关严,再看怎么开得安全
这是一道预防线,不是永久的墙
官员明确说了,封锁是预防性措施,后续能不能解封,要看平台的保障做得够不够
说到底,政府不是要跟创新对着干,而是要把“安全阀”装上
![]()
谁愿意配合,谁给出透明的方案,谁就能重新进入市场
从技术公司的角度看,平台已经在收缩Grok的图像编辑能力,尤其是“给真人照片加色情化效果”的部分
限制功能是一小步,证明效果是一大步
这一步需要可审计的机制,需要对未成年相关内容的一票否决,需要区域合规的默认封禁,需要问题内容的快速发现与下架通道,最好还要有第三方监督
平台的公告不是答案,落地的安全才是答案
东南亚的态度,像一面镜子照向全球
法律和监管的脚步追不上技术演进,就会用“临时刹车”稳住路况
今天是Grok,明天可能是别的AI工具
![]()
市场不怕规则,怕的是规则不清,风险不明,出了事没人负责
在这场快速决策里,还能看到另一层现实:社会的恐惧不来自AI本身,而来自人使用AI的动机和方式
技术的中性不等于使用的中性,越是强大的工具,越需要清晰的边界
平台和政府说要保护未成年人,不能停留在公关稿,需要数据与执行,最好把误伤率、拦截率、处置时效开诚布公地公布出来
能否解封,取决于谁先给出可验证的安全方案
xAI若真有诚意,不妨在菲律宾本地与监管建立联络机制,提供细化的过滤策略、第三方测评、灰度开放与应急响应流程,把“今晚封锁”的被动局面,变成“随时可控”的主动治理
这样既不因噎废食,也不放任风险扩散
我赞同这次的快刀
社会遭遇新风险,拖延比出错更可怕
![]()
在极快的扩散速度面前,越晚一步就可能多出成千上万张伤害人的图片
这不是夸张,是互联网的日常
等风暴过境,再谈创新与开放的空间,顺序错了,代价由普通人买单
监管不是刹车,而是方向盘
方向盘握得稳了,车速才能放得开
菲律宾的“今晚封锁”是一次路况复杂时的紧急避险,等到路修好、标识清楚、护栏到位,再上高速也不迟
真正考验平台的,不是嘴上说的“重视安全”,而是愿不愿意把安全做成产品的一部分
AI的聪明,必须先学会不伤人
等到这句话成为行业常识,技术与社会才算站在同一条路上
创新不是免死金牌,安全才是通行证
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.