专访• 知道创宇 | 探索AI大模型的“童年”：瓶颈与潜力

作为业界公认的网络安全技术盛宴，近日，由知道创宇主办的第十三届KCon大会在北京成功举行。本次大会深入探讨了包括AI大模型、APT攻击在内的多个前沿热点议题，汇聚了超过20位演讲嘉宾的精彩分享，其中既有网络安全领域一线厂商的实战案例分析，也不乏来自权威学术机构及独立安全研究专家的独到见解，共同为应对新时代网络安全挑战提供了最前沿的研究成果与一线实战的宝贵经验。

知道创宇CSO黑哥在致辞中表示，今年是KCon大会的第十三年。这十三年，不仅是KCon大会自身成长与蜕变的见证，因为大家的参与，也是对中国网络安全历史的见证，KCon大会作为业内交流的重要平台，始终站在技术前沿，汇聚全球顶尖的安全专家与学者，共同探讨应对之道，推动安全技术的创新与发展。

记者：你如何看待AI大模型在网络安全方面的应用？

黑哥：在探讨大模型在安全领域的应用时，我基于个人观察及行业实践，总结了几个关键方面。首先，AI大模型在告警日志的降噪方面展现出显著潜力。当前，许多安全产品生成的告警日志数量庞大，运维人员每日需面对数万条告警，难以有效处理。传统上，这高度依赖于运维人员的经验判断，但个体经验的差异导致处理效果参差不齐。AI大模型则以其类似人类思维的特性，能自动根据既有知识联想出正确的结果，有效过滤不重要的告警，从而极大提升了降噪效率。

然而，在特定情境下，如面对矛盾或引导性强的问题时，AI大模型可能给出不确定的结果，影响了其精确性。因此，在需要高度精确性的场景中，AI大模型的应用需谨慎。

此外，AI大模型在处理某些任务时，其效率并不总是优于传统方法。特别是在处理格式固定且海量的日志清洗任务时，传统方式往往更为高效。这表明大模型并非万能，其适用范围需根据具体任务特点来界定。

目前，安全行业对AI大模型的探索主要集中在智能问答、降噪以及报告生成等领域，这些应用相对较为成熟。然而，在发现潜在攻击者和对抗攻击等安全核心问题上，AI大模型的作用仍较为有限。这主要是因为即便是经验丰富的专家也难以准确预判所有潜在威胁，对AI大模型而言更是巨大挑战。

值得注意的是，AI大模型要充分发挥其效能，需要庞大的参数支撑，这也意味着巨大的资源消耗。尽管使用数千亿参数的AI大模型能带来不错的效果，但其高昂的成本也是不可忽视的问题。

在探讨AI大模型在本地化及实际应用中的挑战时，我们不得不面对几个核心问题。首先，本地化数十亿参数的大模型往往会导致效果显著下降，这对本地计算资源构成了巨大挑战。即使投入数百万购买高性能计算服务器，也可能因资源消耗与效果不成正比而难以令人满意。这种高昂的成本与有限的应用场景使得AI大模型在本地部署上显得不切实际，尤其是在资源有限的环境中。

尽管AI大模型的方向值得探索，但其在当前阶段的实际应用效果尚显不足。去年以来，AI大模型的热度虽有所上升，但今年已逐渐降温，反映出其在具体应用场景中的局限性。作为厂商，我们长期在小范围内进行尝试和探索，但正式的产品化应用仍需进一步观察。

在漏洞挖掘和情报分析领域，大模型展现了一定的潜力，但同样面临诸多挑战。通过大模型分析漏洞原理，虽然提高了效率，但缺乏针对性的漏洞模型训练导致其在实战中表现不佳。此外，大模型在处理大规模代码时的能力仍有待提升，其专业训练和对复杂场景的适应性仍需加强。

在安全编码方面，AI大模型的应用则更为成熟。它显著提高了开发效率，并能在某些方面超越人类的准确性，如避免拼写错误等。然而，在情报分析领域，AI大模型的“幻觉”问题成为了一个致命缺陷，即其可能在不确切的点上给出错误答案，且这种错误往往难以追溯。

总体而言，AI大模型的优势明显，能够辅助安全领域的多项工作。但在具体应用如漏洞挖掘、威胁识别等场景中，其数据量和识别能力尚显不足。为了提升AI大模型的性能，我们需要更优质的数据进行训练，但这又面临着技术成本和投入产出比的考量。

此外，AI大模型的发展速度令人瞩目，新版本的推出往往带来质的飞跃。这使得我们在投入大量资源进行训练时，不得不考虑未来技术迭代可能带来的风险。因此，在当前阶段，对AI大模型的投入应持谨慎态度，避免盲目跟风。

事实上，我们可以将AI大模型比作一个正在成长的孩子。随着技术的不断进步，成长的越来越快，其能力也将越来越强大，而我们则需要根据实际情况调整策略，既要看到其潜力，也要认识到其局限性。在未来的发展中，AI大模型有望在安全领域发挥更加重要的作用，但在此之前，我们仍需耐心等待并持续探索。

记者：关于实战中的攻击端，我们如何感知AI大模型所带来的影响？比如网络安全威胁的数量有所增加，是否与AI大模型的出现和普及有直接关联？

黑哥：关于AI大模型在当前社会及安全领域的影响，我们可以从多个维度进行探讨。首先，AI大模型的兴起无疑成为了新的技术热点，其影响力迅速渗透到各个层面，包括安全领域。随着大模型的普及，围绕它展开的攻击手段也愈发多样化和频繁。例如，钓鱼邮件等攻击方式现在可以利用大模型生成多语种内容，极大地降低了攻击成本，提高了攻击效率。同时，恶意程序的开发也借助大模型的力量，使得攻击门槛相对降低，更多的攻击者能够轻松编写出复杂的恶意代码。

然而，值得注意的是，AI大模型并非唯一推动攻击事件增长的因素。技术进步本身就是一个双刃剑，任何新技术的出现都会促进攻防两端的发展。大AI模型只是众多新技术中的一个，它与其他技术如大数据、云技术等一样，都在不同程度上促进了攻防对抗的升级。因此，我们不能简单地将攻击事件的增加完全归咎于大模型。

从攻防双方的角度来看，AI大模型的应用对两者都产生了深远影响。对于攻击者来说，大模型降低了技术门槛，使得他们更容易获取和利用高级技术。但与此同时，这也可能导致攻击的质量参差不齐，因为并非所有攻击者都能充分利用大模型的潜力。相比之下，防御者可能从AI大模型中受益更多。通过引入大模型进行安全代码开发、漏洞检测等，防御者能够显著提升自身的防御能力，降低被攻击的风险。

具体来说，AI大模型在编码过程中的应用可以显著提高代码的安全性。它能够帮助开发者自动过滤潜在的安全漏洞，提升代码的安全质量。同时，在防御体系的构建中，AI大模型也能够发挥重要作用。通过结合人工智能、自动化等技术手段，防御者可以大幅提升响应速度和效率，从而在攻防对抗中占据有利地位。

当然，我们也必须认识到AI大模型在应用中存在的局限性。例如，AI大模型可能会产生“幻觉”现象，即误报安全威胁或漏报真正的攻击。但这并不妨碍我们充分利用AI大模型的优势来构建更加安全、高效的防御体系。在实际应用中，我们可以通过不断优化AI大模型的算法和参数设置来提高其准确性和可靠性。

总的来讲，AI大模型时代的到来为安全领域带来了新的机遇和挑战。我们需要密切关注AI大模型技术的发展动态，并积极探索其在安全领域的应用潜力。同时，我们也需要加强自身的安全防护能力，以应对日益复杂的网络安全威胁。

知道创宇技术副总裁李伟辰表示，为满足安全从业者和技术爱好者的学习需求，今年KCon大会培训日活动有多位安全从业者、技术爱好者进行了网络安全渗透测试技术培训，本次培训深度融合了近两年的最新漏洞技术与实战化需求，帮助白帽和技术爱好者积累丰富的理论基础和实战经验。

记者：AI大模型的研发对于创业公司的门槛有多高？知道创宇在这方面的的研发投入情况是什么样的？

李伟辰：当前市场环境的变化，尤其是投资热潮的降温，促使我们重新审视公司的战略方向。目前，大厂间的竞争愈发激烈，创业公司更是面临头部效应加剧的困境。在此背景下，公司如何在技术研发与市场拓展上做出明智的投入，显得尤为重要。

AI大模型技术的兴起，为我们带来了显著的便利，特别是编码能力的提升，极大降低了内部开发成本。利用GPT等AI工具，不仅提升了开发效率，还减少了人为错误，前提是需求与逻辑需清晰界定。随着行业整体投入减少，开源节流成为重要策略，这对开发者而言既是挑战也是机遇，因为那些能快速适应并善用大模型的人，将更有可能保持竞争力。

AI大模型在研发过程中的效率提升有目共睹。过去可能需要多人团队数月甚至一年才能完成的产品，现在两三人半个月内就能达到市场顶尖水平。然而，作为公司，我们深刻认识到，真正的浪费不在于研发效率低，而在于研发方向的不确定性。软件开发中，编码仅占很小一部分，更多资源投入到需求分析、设计、测试等环节。因此，明确方向、聚焦核心优势，是减少浪费、提升整体效能的关键。

安全行业经历了投资热潮后，出现了过度扩张、产品同质化的现象。厂商们为了争夺市场份额，不得不卷入价格战，导致行业生态恶化。面对这一现状，我们意识到，只有回归商业本质，聚焦自身优势领域，才能实现可持续发展。我们公司在云安全、云防御、云测绘等领域积累了丰富经验和技术优势，未来将继续加大这些领域的研发投入，提升核心竞争力。

同时，我们也认识到，资金压力是行业普遍面临的问题。未来两三年，行业竞争将更加激烈，资金将成为制约发展的重要因素。因此，我们必须通过优化成本结构、提升运营效率、加强主营业务收入等方式，确保公司能够稳健发展。尽管这个过程充满挑战和痛苦，但我们相信，通过持续的努力和调整，我们一定能够度过难关，实现公司的长期发展目标。

未来，我们充满信心。随着市场环境的变化和行业竞争的加剧，我们将继续聚焦核心优势领域，加大研发投入和市场拓展力度。同时，我们也将积极应对资金压力等挑战，通过开源节流、优化成本结构等方式提升公司的整体竞争力。我们相信在全体员工的共同努力下我们一定能够实现公司的长期发展目标并为整个行业的发展贡献自己的力量。