上海
团队组建背景
2020年5月，Deep Ganguli因OpenAI GPT-3论文警醒，加入由前OpenAI员工创办的Anthropic公司，组建9人“社会影响团队”。该团队隶属员工超2000人的Anthropic，致力于研究AI从经济影响到选举风险等广泛议题，确保AI“与人类积极互动”。
核心使命与工具创新
团队目标是揭示AI“不便真相”，如通过Clio系统追踪Claude聊天机器人使用情况，发现用户生成露骨色情内容或SEO垃圾信息。该系统类似Google Trends，帮助Anthropic优化安全监测，并公开发布研究以惠及其他公司。
内部协作与挑战
团队每周五天办公室共事，与安全、对齐和政策团队紧密合作，研究包括经济指数和选举风险评估。尽管领导层支持，团队面临资源有限、协调成本增加等难题，无法完全追踪AI输出在现实世界的实际影响。
未来研究方向
团队计划扩展规模，优先探索AI情感智能（EQ）影响，如用户寻求职业指导或政治建议，可能引发“AI精神病”等现象。成员强调使命优先于金钱，致力于从内部指导安全AI发展。该报道由The Verge高级AI记者Hayden Field于2025年12月2日3:11 PM UTC发布。
参考链接:
https://www.theverge.com/ai-artificial-intelligence/836335/anthropic-societal-impacts-team-ai-claude-effects
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
