网易首页 > 网易号 > 正文 申请入驻

从原型到生产:AgentOps 加速字节 AI 应用落地实践|QCon 北京

0
分享至

2025 年 4 月 10 - 12 日,QCon 全球软件开发大会 将在北京盛大召开。此次大会以 “智能融合,引领未来” 为主题,将汇聚各领域技术先锋与创新者,共同探讨行业发展新趋势。

字节跳动 AI 应用 DevOps 平台后端技术负责人杨晨已确认出席,并将发表题为《从原型到生产:AgentOps 加速字节 AI 应用落地实践》的主题分享。随着 LLM 的发展,越来越多的业务期望结合大模型能力构建其 AI 应用以智能化解决场景化问题。AI 应用的开发与传统工程开发存在众多开发范式的变革,AI 应用落地的过程中也存在诸多挑战。本次演讲将探讨字节内应对上述挑战的实践,讲述 AgentOps 平台如何助力业务高效开发迭代 AI 应用。

杨晨作为字节跳动 Dev Platform 部门技术专家,AI 应用 DevOps 平台后端技术负责人。持续关注 AI 应用开发者工具平台的前沿动态及创新,从 0-1 落地字节 AI 应用 DevOps 平台,对 AI 应用落地及效果调优有深入的理解与洞见。本次会议中,他的详细演讲内容如下:

演讲提纲

1. 大模型时代的应用开发范式变革

  • 微服务应用架构 VS AI 应用架构

  • AI 应用开发范式

  • AI Agent 的演进

2. AI 应用开发中的问题与挑战

  • 基于大模型的应用开发迭代方式有何不同?如何高效开发?

  • 面对大模型的不确定性,如何高效评测 AI 应用以达到上生产要求?

  • 如何对大模型自主驱动的 Agent / 应用更好进行观测、运维?

  • 效果不及预期,如何进行推理结果的优化提升?

3. 字节 AgentOps 落地实践

3.1 AgentOps 平台的整体架构

  • AI 应用开发的全生命周期

3.2 Prompt 开发:从设计、调优到应用

  • Prompt 调试优化工具与实践

  • Prompt 版本化管理与生产应用

3.3 效果评测:AI 应用的生存之道

  • 评测标准与流程的建立

  • 评测集与评估器

    • LLM-as-a-Judge

    • Code Evaluator

    • Human-in-the-loop

  • 业务实践

    • 基于 Golden Set 的效果准出评测

    • 基于线上数据回流的在线评测

3.4 可观测:洞察 AI 应用的全链路

  • Tracing 数据的采集与消费

  • 开箱即用的会话聚合与指标分析

  • 业务实践

    • 可观测在 Coze 和豆包上的实践

3.5 数据飞轮:AI 应用效果提升的闭环

3.6 落地情况与经验总结

  • 在字节内场的落地情况

  • 实践难点与经验总结

4. 未来展望

  • AI 应用开发者的核心诉求

  • Agent 元年对 AgentOps 平台的机会与挑战

您认为,这样的技术在实践过程中有哪些痛点?

  • AI 应用开发的范式不断创新与变革,如何寻求 AgentOps 的最佳实践

演讲亮点

  • 字节跳动 AgentOps 的全流程实践

  • AI 应用效果评测、问题定位、效果迭代优化的一手经验

听众收益

  • 深入理解 AI 应用开发过程中会遇到的问题及解法

  • AI 应用落地及效果调优的实践经验及最新认知

除此之外,本次大会还策划了多模态大模型及应用、AI 驱动的工程生产力、面向 AI 的研发基础设施、不被 AI 取代的工程师、大模型赋能 AIOps、云成本优化、Lakehouse 架构演进、越挫越勇的大前端等专题,届时将有来自不同行业、不同领域、不同企业的 100+ 资深专家在 QCon 北京现场带来前沿技术洞察和一线实践经验。

现在报名即可以享受 9 折优惠,单张门票立省 680 元,详情可扫码或联系票务经理 18514549229 咨询。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
拉美右翼“再下一城”!

拉美右翼“再下一城”!

九万里
2026-07-01 09:40:00
初二女生遭数名男生殴打后出现抑郁症状,当地警方介入

初二女生遭数名男生殴打后出现抑郁症状,当地警方介入

澎湃新闻
2026-07-01 19:57:04
2026下半年:关关难过关关过,前路漫漫亦灿灿

2026下半年:关关难过关关过,前路漫漫亦灿灿

洞见
2026-07-01 09:21:58
无视姆巴佩奥利塞!巴萨天才评世界杯最强 3 人,冷门黑马太意外

无视姆巴佩奥利塞!巴萨天才评世界杯最强 3 人,冷门黑马太意外

澜归序
2026-07-01 08:25:39
过去农村很多杀猪匠身体很硬朗,却普遍不长寿?难道真的是报应?

过去农村很多杀猪匠身体很硬朗,却普遍不长寿?难道真的是报应?

鲸探所长
2026-07-01 11:44:45
搞笑图片第1260期:有时候想让家里网速变快只需改个WIFI密码

搞笑图片第1260期:有时候想让家里网速变快只需改个WIFI密码

今天的快乐
2026-07-01 21:42:06
外媒:阿根廷提前飞迈阿密,首发三处未定

外媒:阿根廷提前飞迈阿密,首发三处未定

懂球帝
2026-07-01 21:48:09
魏敏芝现状曝光:在美国当导演,定居夏威夷,如今40岁胖到不敢认

魏敏芝现状曝光:在美国当导演,定居夏威夷,如今40岁胖到不敢认

文刀贰
2026-07-01 22:39:01
数百名医生已证实:维生素B12的真相,最好花点时间看看

数百名医生已证实:维生素B12的真相,最好花点时间看看

岐黄传人孙大夫
2026-06-19 18:45:03
NBA疯狂一夜!9笔签约达成,伦纳德史诗级1换7,詹姆斯官宣离队

NBA疯狂一夜!9笔签约达成,伦纳德史诗级1换7,詹姆斯官宣离队

老侃侃球
2026-07-01 11:17:11
私生活混乱、被央视“开除”、陪睡上位,她身上哪个标签是真的?

私生活混乱、被央视“开除”、陪睡上位,她身上哪个标签是真的?

素衣读史
2026-06-18 21:37:31
适合女性的3种“碱性菜”,每天吃一点,补气养血,脸上光滑细腻

适合女性的3种“碱性菜”,每天吃一点,补气养血,脸上光滑细腻

江江食研社
2026-06-30 21:23:49
肯纳德2年1300万加盟太阳评级:A

肯纳德2年1300万加盟太阳评级:A

北青网-北京青年报
2026-07-01 19:58:03
莫言:你细心观察一下你的身边人,凡是动不动就生气的人,没有一个是智者,生活多半过得一团糟糕

莫言:你细心观察一下你的身边人,凡是动不动就生气的人,没有一个是智者,生活多半过得一团糟糕

每日一首古诗词
2026-06-18 06:32:18
外交部:日方应该教育提醒在华日本公民和企业遵守中国法律法规

外交部:日方应该教育提醒在华日本公民和企业遵守中国法律法规

北青网-北京青年报
2026-07-01 15:54:01
出师未捷身先死,欧洲没料到,中欧贸易战没开始,中国空调卖爆了

出师未捷身先死,欧洲没料到,中欧贸易战没开始,中国空调卖爆了

椰青美食分享
2026-07-01 17:35:28
法国高温求生记:去酒店“避难”,想让幼儿园添风扇却面临“程序合规”质疑

法国高温求生记:去酒店“避难”,想让幼儿园添风扇却面临“程序合规”质疑

澎湃新闻
2026-07-01 14:38:28
蔚来、乐道、萤火虫全线爆单!蔚来6月交付40,597台 创年内新高

蔚来、乐道、萤火虫全线爆单!蔚来6月交付40,597台 创年内新高

快科技
2026-07-01 12:38:07
太真实!42岁郭碧婷西双版纳纯素颜被偶遇,状态两极分化引热议

太真实!42岁郭碧婷西双版纳纯素颜被偶遇,状态两极分化引热议

观鱼听雨
2026-06-29 23:52:34
问界6月交付30199台环比下滑,M9换代阵痛还是市场变天?

问界6月交付30199台环比下滑,M9换代阵痛还是市场变天?

音乐时光的娱乐
2026-07-01 17:41:19
2026-07-01 23:59:00
InfoQ incentive-icons
InfoQ
有内容的技术社区媒体
12599文章数 51963关注度
往期回顾 全部

科技要闻

Claude Code被曝“植入木马”识别中国用户

头条要闻

六旬父亲背8个土鸡蛋接考后续:儿子报考大学已确定

头条要闻

六旬父亲背8个土鸡蛋接考后续:儿子报考大学已确定

体育要闻

卖球衣救子的门将,把德国扑出了世界杯

娱乐要闻

77岁牛群公证裸捐全部财产,清贫独居坚持月捐

财经要闻

新氧贷款:宣传年化15%,实际顶格24%

汽车要闻

同比暴涨188.4% 方程豹6月热销35607台

态度原创

时尚
本地
健康
旅游
艺术

7月,穿好看的衣服,看最美的风景

本地新闻

强烈建议,全国高校都向这所大学看齐!

年糕汤圆别油炸,水煮清蒸更健康

旅游要闻

不用远赴远方!宣威家门口的世界级美景,治愈所有短途出行疲惫

艺术要闻

西安美术学院,2026届油画系硕士研究生毕业作品选(二)

无障碍浏览 进入关怀版