《AI智能体的崛起》作者佩塔尔·拉达尼列夫：AI治理刻不容缓，安全应贯穿开发全流程

来源：新浪证券

　　2025可持续全球领导者大会于10月16日-18日在上海市黄浦区世博园区召开。

　　《AI智能体的崛起》作者，牛津大学计算机科学系专业硕士课程导师，艾伦·图灵研究所研究员佩塔尔·拉达尼列夫（PetarRadanliev）出席2025可持续全球领导者大会并主旨演讲。

　　“AI发展如双刃剑，一边推动新药研发、经济进步，一边暗藏安全漏洞与治理难题，而解决问题的核心，在于从开发之初就筑牢安全防线。”佩塔尔・拉丹利耶夫直面AI发展的核心矛盾，为全球AI治理提供了关键思路。

　　佩塔尔・拉丹利耶夫指出，AI已深度融入社会各领域。2018年GPT模型问世后，线上数据库中可复用的AI模型已超1600个，它们在新药研发中助力攻克癌症、在自动驾驶中突破技术瓶颈，甚至能呈现比顶尖学府教师更优质的知识内容。但技术进步的背后，风险也在滋生——16岁年轻人利用暗网中的“诈骗GPT”实施犯罪，生成式AI的“幻觉”可能引发系统性崩溃，这些问题都凸显了AI治理的紧迫性。

　　他进一步分析，当前不少企业存在“重开发、轻安全”的倾向，认为执行安全标准会拖累发展进度。但实际上，缺乏安全保障的AI会丧失用户信任，最终导致业务受损。以“睡眠智能体”为例，这种可能被植入系统的恶意程序，可潜伏数年甚至十几年，在GPS、医院等关键场景中引发风险，且因难以被AI自身检测，成为当前最棘手的威胁之一。

　　佩塔尔・拉丹利耶夫强调，AI安全不能“事后补救”，而应“事前规划”。无论是即将到来的量子AI，还是下一代AI操作系统，都需从设计阶段就融入安全逻辑，建立类似“公路栅栏”的防护机制，同时通过“AI物料清单”明确数据来源与构成，以透明度消除隐患。只有让安全成为AI发展的底色，才能避免技术滥用，释放其真正价值。

　　2025可持续全球领导者大会由世界绿色设计组织（WGDO）与新浪集团联合主办，国际财务报告准则基金会（IFRSFoundation）北京办公室协办，新浪财经与世界绿色设计组织北京代表处承办，上海市黄浦区人民政府支持。大会以“携手应对挑战：全球行动、创新与可持续增长”为核心主题，汇聚全球智慧力量，共探可持续发展新路径，为全球可持续治理注入澎湃的“中国动能”。

　　本届可持续大会在以往四届“ESG全球领导者大会”的基础上进一步升级！嘉宾阵容强大，可持续大会组委会邀请约500位中外重磅嘉宾，其中约100位为海外嘉宾，不仅有政要、前政要、国际组织的代表，还包括了诺贝尔奖得主、图灵奖得主、全球500强企业负责人等国际顶尖学者与业界领军代表。本届大会将围绕近50个议题展开深入研讨，议题涵盖能源与“双碳”、绿色金融、可持续消费、科技与公益等细分领域。