北京
6月12日，第八届北京智源大会在北京中关村国际创新中心开幕，AI安全成为开幕式核心议题之一，行业聚焦AI如何稳定、持续、安全地融入现实环境与社会系统。
智源研究院院长王仲远披露，截至目前，智源开源模型数量超200个，全球总下载量累计突破10亿次。他指出，此前行业更多关注超级人工智能的远期风险，如今随着AI智能体、大模型自进化能力发展，已出现大量可复现的现实安全威胁——相关工具可绕过现有筛查机制，合成有害蛋白、突破网络漏洞，生物安全与网络安全风险愈发具象化。
全球AI安全领域代表性厂商Anthropic首席执行官达里奥·阿莫迪提出，AI系统正逼近递归自我改进的临界点，建议行业暂停前沿AI开发，并发表《人工智能指数政策》，强调若持续发展一两年，世界很可能迎来他所定义的强人工智能。王仲远对此表示，大模型递归自进化能力确实放大了AI安全隐患，生物、管理、网络等领域的安全问题已迫在眉睫，这一挑战无法由单一科研机构解决，需全产业链共同协作应对。
美国工程院院士、2015年图灵奖得主菲尔德·迪菲围绕AI安全提出，当前依赖反馈控制的方法效果不佳，形式化方法才是未来方向。他同时表示，机器智能终将主导世界，但不会与人类产生对抗，人类将与机器共存，这一趋势可能提前至本世纪上半叶结束之际。
市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。
本文源自：市场资讯
作者：观察君
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
