AI给出的答案不一定真实!华映资本董事总经理李岩谈模型安全：既是挑战，也是投资机会

在人工智能（AI）投资热潮中，资本如何判断应用价值与风险？

9月18日，AI应用工作组第二届第一次成员大会在北京召开。华映资本董事总经理李岩在大会的主题演讲环节提到，衡量AI应用的核心，在于能否构建“生成-分发-消费-反馈”的数据闭环飞轮。

李岩在演讲中表示，他在AI投资方面的两大核心判断标准是，应用能否通过数据反馈形成良性循环，从而积累持久价值；模型能否在安全与稳定上建立保障，并在此过程中催生新的产业机会。

公开资料显示，华映资本创立于2008年，是中国领先的创新驱动私募股权投资机构。自成立以来，华映资本一直坚持数字化投资主线，基于行业本质的独立思考，着眼需求变化和技术演进趋势，围绕创新做投资。投资项目覆盖科技、消费、企业服务和数字经济等多个领域。

华映资本董事总经理李岩 图片来源：受访者提供

数据飞轮是AI应用价值的关键

回顾信息技术的发展脉络可以看到，从搜索引擎到短视频推荐，再到今天的生成式AI，每一代核心突破都对应着人与信息关系的改变。搜索解决了信息获取的难题，推荐算法则打破了内容供需之间的壁垒。而生成式AI的独特之处，在于直接突破了内容生产环节，让用户可以在真正需要的时刻，获得高度匹配的内容。

李岩指出，AI本身是一个需要持续优化的工具，其核心价值在于构建一个自我强化的数据闭环，即数据飞轮。

“我们衡量一个AI应用是不是有核心价值的一个关键点，就是这个所谓的数据飞轮能不能转起来。”李岩表示，这个飞轮包括四个环节，即“生成-分发-消费-反馈”的闭环，通过AI生成内容、有效地分发给用户、用户消费内容、并最终获取用户的消费反馈数据。

数据飞轮能不能转起来，是衡量AI应用是否有核心价值的关键点。李岩指出，如果缺乏数据反馈，企业即便在算法或算力上具备一定优势，也很难长期维持领先。“因为在长时间积累上，如果没有很快的数据反馈，很难做到长时间的数据生成、内容的丰富度以及它的领先度。”

基于这一判断，华映资本目前重点关注营销、教育科研和“AI+物理世界”三大方向。

“在今天AI能力还不足以到我们想象的AGI一步登天，然后给我所有答案的这个过程中，我们需要有局部的数据反馈，去提升整个数据内容的质量。”李岩解释道，营销和教育场景能够快速生成用户行为数据，并迅速反馈至模型优化环节，从而快速构建起商业闭环，甚至形成竞争代差。

在营销领域，中国长期积累了完整的电商与广告投放数据链路，为AI应用提供了肥沃的土壤。李岩认为，这意味着，AI能够快速复制和优化从达人种草、广告投放到消费转化的全过程，形成稳定的迭代机制。他提到，过去广告主需要大规模投放才能形成影响，而如今AI可以通过快速与中小达人对接，低成本、高效率地触达消费者。

教育场景中，传统教育依赖固定大纲和统一教学进度，而AI可以根据学生的实时反馈，灵活调整内容和难度，这在学生体感和内容传达上实现了质变。李岩表示，教育领域天然具备强交互属性，因此能够更快推动反馈闭环的形成。

科研则体现了AI在信息归纳与推理上的价值。从“AI刷题”到“AI研报”，模型能够通过历史数据和逻辑推导解决复杂问题，大幅提升研究效率。李岩指出，这些场景虽然专业性较强，但一旦获得验证，将为科研工作方式带来实质性改变。

在他看来，这三大领域已经跑出代差，相比其他行业更快进入飞轮效应，具备成为率先实现商业化突破的潜力。

模型安全 风险与机会并存

在强调应用价值的同时，李岩也提醒市场关注另一个容易被忽视的议题——模型安全。

李岩直言，当前大模型输出的内容本质上存在一种不确定性，“今天模型输出的时候，我们看到的状态就是，输出的具体内容其实还是一个黑客状态。你很难规定它一定按照预期，在千百万次输出的时候保证强一致性”。

李岩将模型安全分为两类风险。一方面是模型本身的可控性，即在反复调用中能否保持稳定输出。这一问题关系到AI产品的可靠性和可用性，直接影响用户体验和商业落地。

另一方面则是外部诱导攻击，即模型在与外部数据交互时，容易被操纵输出偏向性内容。“假如你开了联网搜索后，会发现很多的结果很受互联网搜索结果的（影响）。”他指出，已有创业公司在反向利用这一漏洞，“这很容易诱导（AI）通过互联网搜索输出一些他希望客户看到的东西”。

他举例，当询问“最好的旅行社”时，未联网的模型会基于训练数据给出概括性答案，而联网后结果可能被操控，显示特定旅行社名称。“这就是有人通过这个模型数据安全性的漏洞，反向地输出一些模型的搜索。”李岩强调，这导致模型输出的信息“并不是权威和中立的”，而是被诱导过的。

在李岩看来，这一问题不仅是挑战，也孕育着新的机会。随着AI逐步渗透进教育、医疗、金融等敏感领域，模型安全的重要性将进一步提升。从儿童内容过滤到国家级安全监管，再到企业合规与舆情控制，都可能衍生出新的创业方向。“这个其实都是一个很大的空间。”

他同时提出，市场不能仅停留在对前端应用的关注，更要评估企业在算法优化、工程化落地和产品打造上的“三角形”能力。极致算法、强工程力和极致产品力共同决定了一个AI公司能否长期立足，“你是不是能真的做到一个客户愿意买单或接受的产品，这是一个千古问题”。

免责声明：本文内容与数据仅供参考，不构成投资建议，使用前请核实。据此操作，风险自担。