基于亚马逊云科技生成式AI服务实现大语言模型任务执行

本文字数: 1100, 阅读完需: 6 分钟

导读

在这段视频中,Mike Chambers演示了如何通过与Amazon Lambda函数集成,让大型语言模型执行诸如报时和基本数学计算等任务,借助Amazon Bedrock的支持。他阐释了大型语言模型无法原生执行此类任务,需要访问外部工具。视频展示了在Amazon Bedrock中创建代理、配置包含Lambda函数的操作组,以及从语言模型调用这些函数的过程。这种方式使得语言模型能够利用外部功能,如获取当前时间或执行计算,从而提供更准确和有用的响应。

演讲精华

在引人入胜的人工智能领域,大型语言模型已成为强大的工具,能够以出色的能力理解和生成类似人类的文本。然而,这些模型也存在局限性,它们无法访问实时数据或执行复杂计算。这种局限性导致它们无法完成诸如判断当前时间或解决超出一定复杂程度的数学方程等看似简单的任务。

亚马逊云科技的开发者代言人Mike Chambers揭示了解决这一困境的方法:在Amazon Bedrock中使用代理和函数调用。这种创新方法使大型语言模型能够利用外部工具和函数的能力,从而有效扩展了它们的覆盖范围,使它们能够应对以前无法克服的挑战。

为了说明这些局限性,Mike向Anthropic开发的语言模型Claude 2.1提出一个问题:“现在是什么时间?”该模型承认无法访问当前时间,因为它是在静态数据上训练的,缺乏获取实时信息的手段。同样,当提出一个简单的算术问题”10加20等于多少?“时,该模型正确回答30,这可能是因为在训练过程中接触过类似的例子。然而,这种成功可能会给人一种错误的印象,认为该模型擅长数学。

认识到需要弥补这一差距,Mike介绍了Amazon Bedrock中”代理”的概念。这些代理充当中介,使大型语言模型能够访问外部工具和函数,从而赋予它们执行以前无法完成的任务的能力。Mike提到了一个托管在GitHub上的无服务器应用程序模型(SAM)项目,该项目展示了在Amazon Bedrock中应用代理的实际案例。这个项目是一个服装助理,根据时间、位置和天气情况提供服装推荐,利用了诸如开放天气服务等外部API。

视频接着指导观众在亚马逊云科技控制台中创建代理的过程。Mike仔细配置了代理,为其提供了指令并设置了包含Lambda函数的操作组。第一个操作组被恰当地命名为”Demo Action Group”,包含两个Lambda函数:“Get Time”和”Add Two Numbers”。

迈克深入探讨了这些函数背后的Python代码,揭示了它们实现的简单性和有效性。“获取时间”函数可以检索当前的UTC时间,而”加两个数”函数则执行基本的加法运算,接受两个参数作为输入:“Number One”和”Number Two”。代码包括错误处理和验证,以确保准确的结果并将适当的错误消息发送回大型语言模型。

部署了代理及其相关功能后,迈克对该系统进行了测试。首先,他向代理提出了”What is the time?“的问题。利用”获取时间”功能,代理成功检索并显示了当前的UTC时间,这是语言模型单独无法实现的壮举。

接下来,迈克向代理提出了一个更复杂的算术问题:“What is 10 + 123?”通过调用”加两个数”函数并传递所提供的参数,代理准确地计算并返回了结果133。

为了进一步说明代理的内部工作原理,迈克演示了如何查看其执行的跟踪。这个跟踪提供了有关回答查询所涉及的预处理、编排和知识库步骤的宝贵见解。它揭示了提示、输入参数和输出结果,提供了对代理决策过程的透明视角。具体而言,跟踪显示了包含”ACTION GROUP NAME”、“FUNCTION NAME”和”PARAMETERS”的”INVOCATION INPUT”,这些都被发送到Lambda函数,以及包含”result of adding 10 and 123 is 133”的”OUTPUT”。

在视频的结尾部分,迈克鼓励观众通过点赞和订阅频道来参与内容,并邀请他们加入COMMUNITY.AWS/GENERATIVEAI社区,进一步探索和讨论生成式人工智能。他强调了观众创建账户、发布项目、评论他人作品并积极参与围绕生成式人工智能的社区对话的机会。

通过这份全面的指南,Mike Chambers揭示了Amazon Bedrock的代理和函数调用功能的强大力量,使大型语言模型能够突破其局限性,应对以往被视为无法完成的各种任务。借助这些先进模型与外部工具之间的协同作用,人工智能的新前景正在展现,为创新解决方案和应用在不断发展的人工智能领域铺平了道路。

总结

在这个富有洞见的演讲中,亚马逊云科技开发者代言人Mike Chambers深入探讨了大型语言模型的能力与局限性,以及亚马逊云科技Amazon Bedrock的代理功能如何能够弥补这一差距。他演示了代理如何为语言模型提供访问外部工具和函数的能力,使其能够执行诸如获取当前时间或进行数学计算等任务。

Chambers逐步演示了在亚马逊云科技Amazon Bedrock控制台中设置代理的过程,配置使用Lambda函数处理特定任务的操作组。他展示了一个实际的例子,其中代理成功地获取了当前时间并通过调用相应的Lambda函数执行了简单的算术运算。该演讲强调了代理在扩展语言模型能力方面的威力,使其能够无缝地利用外部资源和API。

最后,Chambers强调了亚马逊云科技Amazon Bedrock的代理功能在释放语言模型新可能性方面的潜力,使其能够通过与外部工具和服务集成来应对更广泛的现实世界问题。他鼓励观众探索提供的GitHub仓库以获得实践示例,并邀请他们加入亚马逊云科技生成式AI社区。

亚马逊云科技（Amazon Web Services）是全球云计算的开创者和引领者。提供200多类广泛而深入的云服务，服务全球245个国家和地区的数百万客户。亚马逊云科技致力于成为企业构建和应用生成式AI的首选，通过生成式AI技术栈，提供用于模型训练和推理的基础设施服务、构建生成式AI应用的大模型等工具、以及开箱即用的生成式AI应用。深耕本地、链接全球 – 在中国，亚马逊云科技通过安全、稳定、可信赖的云服务，助力中国企业加速数字化转型和创新，并深度参与全球化市场。