网易首页 > 网易号 > 正文 申请入驻

监督委员会:Meta应完善应对AI深度造假的安全机制

0
分享至

监督委员会(Oversight Board)是一个全球性的专家机构,负责审查 Meta就 Facebook、Instagram 和 Threads 上的内容做出的最困难和最重要的决定。委员会最近分析了两起类似案件,Facebook 最初对这两起案件的处理方式不同(尽管这两起案件也与 Instagram 和 Threads 有关)。

两个案例都涉及公众女性人物,一个在美国,一个在印度。专家小组发现这两起未经同意的深度伪造事件都违反了《社区标准》,这一点不足为奇;然而,印度的案例最初并未被 Facebook 删除。相反,用户报告在 48 小时后被自动删除。这暗示 Meta 并没有平等对待全球所有市场--这也是该公司受到专家和记者批评的众多原因之一。

尽管是一个独立的实体,但监督委员会拥有很大的权力,因此被称为"Meta 的最高法院"。它可以在特殊情况下推翻公司的决定,并向 Meta 公司提出政策建议。

在这种情况下,审计委员会建议 Meta:

将禁止"贬损性照片"的规定移至《成人性剥削社区标准》中。 将禁止"贬损性照片"中的"贬损"一词改为"未经同意"。 将禁止"贬损性的照片"中的"Photoshop"一词换成一个更笼统的术语,即经过处理的媒体。 通过在"成人性剥削"政策中增加一个新的未经同意的信号来统一其关于未经同意的内容的政策:即内容是人工智能生成或操纵的。对于具有这种特定背景的内容,该政策还应明确规定,这些内容不必是"非商业性的或在私人环境中制作的",也属于违规内容。

除这些建议外,委员会还对基于图像的性虐待上诉自动终止表示关切,并说:"鉴于所造成的损害,即使等待 48 小时进行审查也可能有害":"鉴于所造成的损害,即使等待 48 小时进行审查也可能是有害的"。董事会认为这是一个可能对人权产生重大影响的问题,需要进行风险评估和缓解。

分析的案例还发现了另一个问题,即所谓的"媒体匹配服务库",它收集以前删除的内容,并在重新发布时帮助自动删除违反规则的图片。

Meta 解释说,它依赖于媒体报道,例如,有一篇文章通报了某位名人的泄露图片。当帖子涉及公众人物时,这可能是有用的,但对个人则没有帮助。因此,Meta 不应过度依赖这一信号。

这些建议不具有约束力,但 Meta 公司必须在 60 天内做出正式答复,这往往会导致 Meta 内部政策的改变。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
深度长文:真的有床上被征服的女人吗?

深度长文:真的有床上被征服的女人吗?

宇宙时空
2026-05-29 17:10:11
重大利好!“10万亿元级”机遇!

重大利好!“10万亿元级”机遇!

环球网资讯
2026-05-30 07:32:13
内马尔踢不成世界杯?巴西队做出决定,或再迎三大噩耗,安帅难了

内马尔踢不成世界杯?巴西队做出决定,或再迎三大噩耗,安帅难了

法老不说教
2026-05-29 21:56:19
37℃!江苏入梅最新预测!

37℃!江苏入梅最新预测!

江南晚报
2026-05-30 16:51:38
赵建:交易拥挤到极致了

赵建:交易拥挤到极致了

西京研究院
2026-05-30 17:16:23
仅差3分!哈珀迎来神级里程碑,大卫罗宾逊的纪录可能也保不住了

仅差3分!哈珀迎来神级里程碑,大卫罗宾逊的纪录可能也保不住了

世界体育圈
2026-05-29 15:47:32
弗拉米尼谈创业:公司有200多项专利;我每天吃1餐喝3升水

弗拉米尼谈创业:公司有200多项专利;我每天吃1餐喝3升水

懂球帝
2026-05-30 18:44:22
中国主持联合国大会,两国支持日本入常、阻挠俄伊参会,谁在添堵

中国主持联合国大会,两国支持日本入常、阻挠俄伊参会,谁在添堵

阿尢说历史
2026-05-30 16:55:07
菲律宾与广东同是1亿多人口,菲律宾创造3.3万亿,广东是多少呢?

菲律宾与广东同是1亿多人口,菲律宾创造3.3万亿,广东是多少呢?

南宗历史
2026-05-26 19:59:14
Amelia Gray LA街拍封神,松弛与力量感的完美平衡范本

Amelia Gray LA街拍封神,松弛与力量感的完美平衡范本

述家娱记
2026-05-30 18:14:53
俄罗斯最大的弊病就是舍不得放下远东!一旦放下,甚至能满血复活

俄罗斯最大的弊病就是舍不得放下远东!一旦放下,甚至能满血复活

抽象派大师
2026-05-25 16:41:16
炼出来一堆废铁:1958年全民大炼钢铁,究竟炼掉了什么?

炼出来一堆废铁:1958年全民大炼钢铁,究竟炼掉了什么?

浪子说
2026-05-28 00:05:03
小米宣布大降价,这玩意跌成白菜价了!

小米宣布大降价,这玩意跌成白菜价了!

XCiOS俱乐部
2026-05-28 15:08:32
“特变电工”潜力巨大!

“特变电工”潜力巨大!

木禾黑猫
2026-05-29 21:37:41
5-0、3-2!中超又1保级队提前上岸,泰山队错失名帅

5-0、3-2!中超又1保级队提前上岸,泰山队错失名帅

何老师呀
2026-05-30 09:25:03
张海迪是个谜!她1955年出生,虽然曾患有多种疾病,但面色红润

张海迪是个谜!她1955年出生,虽然曾患有多种疾病,但面色红润

岁月有情1314
2026-05-23 01:19:55
Model Y焕新版,别被“史上最低价”冲昏头

Model Y焕新版,别被“史上最低价”冲昏头

西莫的艺术宫殿
2026-05-29 12:16:19
电力板块集体涨停!6家低调龙头业绩爆发,谁将成下一个千亿市值

电力板块集体涨停!6家低调龙头业绩爆发,谁将成下一个千亿市值

慧眼看世界哈哈
2026-05-30 13:50:12
全员豪门弃将!米兰组建史诗级夕阳红战队,新赛季冲击冠军?

全员豪门弃将!米兰组建史诗级夕阳红战队,新赛季冲击冠军?

宝哥精彩赛事
2026-05-30 10:21:54
台湾回归对中国有什么好处?

台湾回归对中国有什么好处?

野书文
2026-05-27 19:06:03
2026-05-30 19:59:00
cnBeta.COM incentive-icons
cnBeta.COM
提供IT行业即时资讯
68284文章数 70204关注度
往期回顾 全部

科技要闻

车圈大佬发声:价格战远去,但竞争仍残酷

头条要闻

伊朗浓缩铀材料将被挖出销毁 特朗普就战事最新表态

头条要闻

伊朗浓缩铀材料将被挖出销毁 特朗普就战事最新表态

体育要闻

岁月不饶人!39岁德约鏖战近5小时拼到呕吐

娱乐要闻

张碧晨《歌手》 “活人微死” 自嘲

财经要闻

双汇管不住一头猪

汽车要闻

900V+3.2秒破百 领克10+&领克10上市16.99万元起

态度原创

游戏
时尚
家居
公开课
军事航空

LCK第二赛段:稳健推进不给机会,KT直落两局横扫DNS

2026夏天最新5款发型合集,每一款都超心动!

家居要闻

云栖 舒展如流云

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美防长参加"香会" 就美中关系最新表态

无障碍浏览 进入关怀版