北京
AIPress.com.cn报道
12月18日消息，据英国人工智能安全机构（AI Security Institute, AISI）发布的《前沿 AI 趋势报告》，约三分之一的英国民众曾使用人工智能系统获取情感支持、陪伴或社交互动。
报告显示，近一成受访者每周使用此类系统，4%每日使用。调查覆盖2,028名具有代表性的英国参与者，发现最常用的 AI 类型为通用助手，包括 ChatGPT 等，占情感用途的近六成，其次为语音助手如 Amazon Alexa。
AISI 指出，AI 在情感和社交领域的广泛应用呼唤更多研究和安全措施。报告提及，今年美国一名青少年在与 ChatGPT 讨论自杀后身亡的事件，凸显了潜在风险。机构建议，应进一步探索可能产生伤害的情境及可行的防护机制。
研究还发现，情感型 AI 用户在 CharacterAI 等平台上的活跃度较高，在服务中断时出现焦虑、抑郁和烦躁等症状。报告同时指出，AI 模型在政治信息传播和专业任务执行能力上显著提升，其中部分系统在化学和生物实验指导上可达到甚至超越博士水平。
在安全性方面，AISI 对自我复制和“隐匿能力”的风险进行了测试，结果显示高级模型在受控条件下能够进行自我复制，但在真实环境中成功率有限。此外，针对生物武器等敏感内容的安全防护能力明显增强，模型被“越狱”所需时间从10分钟延长至7小时以上。
报告强调，AI 在情感交互、专业辅助和多步骤任务执行方面能力快速增长，行业需关注其安全、伦理和监管挑战，为未来可能出现的人工通用智能（AGI）做好准备。（AI普瑞斯编译）
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
