AIGC善用也要善治，媒体行业探索它的新场景新空间

新一轮科技革命正在不断突破认知边界，媒体行业如何运用AIGC技术探索发展空间，又将如何应对其可能带来的伦理风险？

作为第29届上海电视节“白玉兰对话”电视论坛之一，6月27日，一场“聚焦媒体新质生产力——AIGC使用与治理对话会”在上海广播电视台举行。近百位国内外业界、学界专家参与对话，探讨媒体对AIGC的使用及治理方案，以及生成式人工智能在广电行业的应用和发展。论坛现场使用了AI同传技术，中外嘉宾可以通过大屏实时看到中英两种语言的翻译。

会上，上海广播电视台与上海大学共建的“国际智能传播治理与策略研究中心”正式揭牌。现场同时发布了《全球人工智能媒体发展研究报告（2023-2024）》（抢先版）、《生成式人工智能可信度指标体系报告》（抢先版）、第一财经媒体大模型（预发布版）。

市委宣传部副部长、上海广播电视台党委书记方世忠介绍，面对新科技带来的机遇和挑战，上海广播电视台加快推动AIGC在媒体领域的应用拓展，布局了“SMG in AI”的主攻方向，致力于用AI重塑媒体技术底座，推动智能化、超清化、移动化发展。

上海大学党委副书记段勇认为，AIGC带来的技术革命为传媒业发展新质生产力创造了许多新机遇。与此同时，人工智能的结构性缺陷和AIGC的算法偏见，也决定了新闻造假和传播伦理无法通过纯粹的技术问题加以解决。

“AIGC的出现与进化到底是阿拉丁神灯还是潘多拉魔盒，需要热行动更需要冷思考。”方世忠认为，AIGC可能带来的新闻真实性、版权保护、数据安全、道德伦理等方面的问题，同样值得重视，希望借助此次论坛，媒体界和学术界能够就媒体领域AIGC使用和治理达成广泛共识。

科技与媒体相互赋能

围绕AIGC在媒体行业的应用现状、挑战与未来趋势，来自广电行业、科技公司等不同领域的嘉宾分享了他们的最新观察和思考。

中央广播电视总台国家重点实验室应用推广平台主任陈江疆现场详解了《总台人工智能发展白皮书》，介绍了新一代AIGC技术在媒体业务形态和场景当中的探索。在他看来，媒体领域的AI应用应当遵循共创、共享、共建的原则，倡导技术伙伴生态开放，通过竞争促进技术产品服务和价格优化，避免垄断。他认为，AI技术的使用需保持克制和理性，大模型具有双刃剑的特点，在节目制作使用当中，要严守新闻真实性。

上海广播电视台、上海文化广播影视集团有限公司党委副书记、台长、总裁宋炯明介绍了AIGC浪潮下，上海广播电视台的创新与责任。宋炯明介绍，早在2017年，上海广播电视台就已经初步成立AI实验室，经过多年发展，在高清视频修复、虚拟数字人等应用领域取得良好成效；今年，在全国广电领域率先成立了生成式人工智能媒体融合创新工作室，确立了财经媒体专属AI大模型、新闻资讯类大模型应用等六个主攻方向，鼓励跨部门和领域协作，不同工种深度融合。

据介绍，上海广播电视台在AIGC技术和集成工具的加持下，内容生产的智能化水平不断升级，截至目前发布了AIGC系列公益宣传片；与上海科技大学共同研发了基于手语大模型的交互式数字人手语翻译公益项目，服务全国2700多万听障人士；今年还将结合AI算法匹配技术，推出一档婚恋类节目，探索AIGC与更多节目形式结合的可能。

针对AIGC使用风险和安全治理问题，宋炯明认为，对AIGC既要“善用”也要“善治”，明确人类价值观在技术系统中的原则和尺度，比如明确使用人工智能进行内容生产时，必须采用安全可信的工具，确保生成的内容产品符合国家法律法规，行业标准及道德伦理要求。建立严格的管理措施，确保AIGC技术应用所涉及的数据收集、存储、处理、使用、共享等环节都符合法律法规的要求，严禁未经授权的数据访问、泄露、篡改或滥用行为。

数位科技公司的管理者分享了目前在AI领域的探索和应用。他们在演讲中皆提到了相似的观点，科技公司的技术创新与文化传媒行业的内容创造，在AI的加持下能够实现更高效的融合发展。

百度智能云媒体业务部总经理叶航晖介绍，大模型时代，百度智能云将从创作力、触达力、感染力、生产力四个维度为传媒产业注入智能化新动能。商汤科技数字文娱事业部副总裁李星冶介绍了商汤的大模型矩阵与虚拟数字人，此前已与上海广播电视台合作，在体育赛事转播时通过AIGC技术识别运动轨迹，给观众带来更好的观赛体验，在今年的巴黎奥运会上将与电视台展开更多合作，未来将更关注人机协同的创造类工作。

腾讯云传媒与新文创行业总经理舒文琦分享了AIGC在腾讯会议、新闻、视频、广告及运营中的应用，在他看来，面向传媒行业，未来将结合人工智能技术在内容生产与创作、广告投放和分析等方面提供解决方案。

学界专家则分享了全球范围内人工智能治理的最新研究成果。瑞典查尔姆斯理工大学教授埃里克·波林介绍了《AIGC使用与治理：欧洲的案例和经验》，并解读了全球首创的AI法案——欧盟的《人工智能法案》，探讨基于价值和伦理的风险评估方法，分析不同政策选择和治理措施之间的权衡取舍。韩国高丽大学的金成铁教授则通过丰富的案例详细介绍了生成式人工智能在韩国创意产业生产环节的应用，探讨其在法律、伦理和社会经济层面存在的问题，并反思未来人类与AI的和谐共生之道。

最新成果发布

对话会上，来自行业、企业和学界的嘉宾，从不同角度聚焦人工智能生成内容、媒体应用和伦理问题，结合AIGC对广电行业的技术赋能，从内容生产、媒体生态、商业应用、安全挑战、对高等教育和学术研究的影响等多重维度展开讨论。

上海大学新闻传播学院挂职副院长、教授王虎发布了《全球人工智能媒体发展研究报告（2023-2024）》（抢先版），分享了人工智能技术的全球发展与应用状况，包括加拿大立足产学研推动研究资源与商业化的结合，英国加速向人工智能经济转型，德国打造人工智能制造品牌，瑞典专注传统优势产业，以色列关注智能交通、健康和智慧城市等。

王虎认为，AIGC的发展存在高需求、低留存和低黏性的现状：“AIGC缺的不是用户场景和客户需求，而是如何开发更多的新场景和新服务，为用户创造深度价值，让他们留存下来，转化为活跃用户。”

上海交通大学媒体与传播学院教授禹卫华使用准确性、完整性、时效性、无偏见等十个指标，发布了《生成式人工智能内容可信度评估指标体系报告》（抢先版）。他提到，“可用”的人工智能和“可信”的人工智能是两个概念，未来的AI世界一定是基于可信。在他看来，对生成式人工智能的治理要回归科学传播，而不是被营销所困惑：“生成式人工智能并不是想象中那样美好，大模型也没有想象中强大，数据来源依然还有很多风险，做评估不是限制发展，而是使得它在理性的科学的领域发展。”

上海广播电视台第一财经总编辑杨宇东介绍了第一财经在AIGC方面的探索和思考。在他看来，基于跨界属性，AI时代的财经媒体具有广阔的市场前景和发展机遇，比如目前在财报专业分析的智能生成和智能解读等方面的技术已经趋于成熟。在7月6日举办的2024世界人工智能大会上，还将正式发布第一财经媒体大模型。

据介绍，这一大模型是一个在基础的通用语料之上，注入高质量财经媒体数据和专业领域知识，服务财经融媒体内容生产的AI智能体，它在未来将有望成为一位财经智囊和助手，在全球资本市场瞬息万变的动态过程中，为投资者提供一流的财经信息服务。