亚马逊云科技：安全是构建生成式AI应用不可回避的议题

9月1日消息，近日，亚马逊云科技大中华区解决方案架构部总监代闻在亚马逊云科技re:Inforce2023大会中国站上表示，生成式AI已经应用到企业创新的各个环节，生成式AI真正的让AI在企业加速落地，但也给企业的技术部门带来了前所未有的挑战。

亚马逊云科技认为，安全是构建生成式AI应用不可回避的一个议题。从构建开始，就需要把安全作为企业AI战略发展的一个核心环节，尤其是现在飞速发展的阶段。

“我们不能只是关注AI应用本身，而是从一个全栈的角度，去全面审视应用、模型、数据、基础架构的安全规范、技术策略和平台工具。”代闻表示。

安全是构建生成式AI应用不可回避的一个议题

近年来，人工智能技术飞速发展，云计算助力了大量激增的数据和大规模可用的计算资源的实现，一直推动人工智能技术不断地创新。“在过去不到一年的时间里，生成式AI应用场景井喷，这预示着一个新的转折点，一个新的技术时代。”代闻认为。

目前，生成式AI已经应用到企业创新的各个环节，通过智能客服优化客户体验，通过自动生成代码来提高技术团队生产力，通过文字生成图片的方式加速创意内容生成，通过自动化文档处理提高整个组织的运营效率。生成式AI真正让AI在企业加速落地。

企业借助生成式AI、大语言模型等前沿技术开始业务创新的过程中，会面临诸多围绕数据、模型、应用等新的安全挑战。生成式AI需要依赖大量的数据和模型，任何一个环节的安全疏漏，如使用不安全的模型训练及微调、模型的泄露、不安全的应用、不安全的应用访问等等，都可能会导致企业自身数据及隐私的泄露，或者产生不准确甚至错误的结果。企业只有确保应用AI各个环节的安全合规，才能更好地助力业务开展创新。

“国际开源安全组织目前发布了2023年针对大语言模型应用的十大安全威胁。某个大型的国际企业在采用了某个基于大语言模型的公开聊天应用服务以后，20天时间里出现了3起数据泄露事件，有产品良率的泄露，有代码的泄露，还有会议内容的泄露。”代闻举例道。

因此，安全已经成为构建生成式AI应用不可回避的一个议题。

亚马逊云科技认为，不能只是关注AI应用本身，而是从一个全栈的角度，去全面审视 应用、模型、数据、基础架构的安全规范、技术策略和平台工具。

“生成式AI应用就像是海面上的冰山，我们想要在企业里安全地驾驭这项新技术，还需要关注海面下的冰川。”代闻提到。

数据、模型以及应用安全 构建安全的生成式AI

亚马逊云科技认为确保数据、模型以及应用的安全，企业才能更好的释放生成式AI应用的价值。

“数据和模型安全是构建AI应用的关键。亚马逊云科技在大数据还有AI领域里都耕耘多年，从数据源的摄取到以智能湖仓为基础的数据分析和处理，到把分析处理得出来的结果，安全的传送到AI平台进行训练调优和推理，这一整条链路上的数据分类和数据治理，整个流程、实践还有产品工具在亚马逊云科技上都可以得到完善的支持。”

亚马逊云科技还提供贯穿如Amazon DataZone整个数据周期的治理服务，并在本次大会上推出了敏感数据保护解决方案，可实现对企业敏感数据的自动化发现并在统一平台管理数据资产。

企业需要借助模型以及基础模型构建AI应用，要确保训练结果的准确性和有效性，模型训练的安全性同样至关重要，企业应全方位的监控模型的安全运行，包括模型的访问安全、模型的管理、模型运行的安全监控等。针对自建模型的企业，Amazon SageMaker提供了多种功能帮助开发人员更轻松地构建、训练和部署模型，如Amazon SageMaker Model Cards可实现对模型信息的统一管理、Amazon SageMaker Model Monitor可自动监测模型的准确性。

应用安全是实现AI价值的保障。在应用安全方面，以Amazon CodeWhisperer为例，该服务是亚马逊云科技推出的AI编程助手，可根据开发者指令利用内嵌的基础模型实时生成代码建议，该服务内置了代码安全扫描功能，可帮助开发者查找难以检测的漏洞并提出补救建议。针对应用的安全访问，企业可构建零信任的应用安全访问策略。（崔玉贤）