改进了编排控制并增强了推理的可视性,Agents for Amazon Bedrock 现已上市

七月份的时候,我们推出了 Agents for Amazon Bedrock 预览版。如今,Agents for Amazon Bedrock 全面上市。

Agents for Amazon Bedrock 通过编排多步任务,有助于您加速生成人工智能 (AI) 应用程序的开发。代理使用基础模型 (FM) 的推理功能将用户请求的任务分解为多个步骤。他们使用开发人员提供的指令创建编排计划,然后通过调用公司 API 和使用检索增强生成 (RAG) 访问知识库来执行该计划,从而为终端用户提供最终响应。如果您想知道其中的工作原理,请查看我之前发布的关于代理的文章,其中包括高级推理入门和 RAG 入门。

亚马逊云科技开发者社区为开发者们提供全球的开发技术资源。这里有技术文档、开发案例、技术专栏、培训视频、活动与竞赛等。帮助中国开发者对接世界最前沿技术,观点,和项目,并将中国优秀开发者或技术推荐给全球云社区。如果你还没有关注/收藏,看到这里请一定不要匆匆划过,点 这里让它成为你的技术宝库!

即日起, Agents for Amazon Bedrock 的功能已得到增强,包括改进了编排控制并增强了思维链推理的可视性。

Agents for Amazon Bedrock 在后台会自动化用户请求任务的提示工程和编排,例如管理零售订单或处理保险索赔。代理会自动构建编排提示,如果连接到知识库,则会使用您公司特定信息扩充提示,并调用 API 以自然语言向用户提供响应。

作为开发人员,您可以使用新的追踪功能来追踪执行计划时使用的推理过程。您可以查看编排过程中的中间步骤,并使用这些信息来解决问题。

您还可以访问和修改代理自动创建的提示,以便进一步增强终端用户体验。您可以更新此自动创建的提示(或提示模板),从而帮助 FM 增强编排和响应,使您能够更好地控制编排。

接下来,我将为您展示如何查看推理步骤以及如何修改提示。

查看推理步骤

追踪功能可以让您了解代理的推理,即思维链 (CoT) 。您可以使用 CoT 追踪查看代理如何逐步执行任务。 CoT 提示基于一种名为 ReAct (协同推理和行动)的推理技术。请查阅我上一篇博客文章中关于高级推理的入门知识,了解更多关于 ReAct 和特定提示结构的信息。

首先请导航到 Amazon Bedrock 控制台并选择现有代理的工作草稿。然后,选择“测试”按钮并输入示例用户请求。在代理的响应中,选择“显示追踪”。

图片

CoT 追踪逐步显示代理的推理。打开每个步骤查看 CoT 的详细信息。

图片

增强的可视性有助于您了解代理完成任务所使用的基本原理。作为开发人员,您可以使用这些信息来完善提示、说明和操作描述,以便在迭代测试和改进用户体验时调整代理的操作和响应。

修改代理创建的提示

代理根据提供的说明自动创建提示模板。您可以更新用户输入的预处理、编排计划和 FM 响应的后处理。首先请导航到 Amazon Bedrock 控制台并选择现有代理的工作草稿。然后,选择“高级”提示旁边的“编辑”按钮。

图片

在这里,您可以访问四种不同类型的模板。预处理模板定义了代理如何对用户输入进行情景化和分类。编排模板为代理提供了短期记忆、可用操作和知识库的列表及其描述,以及如何在不同序列或组合中分解问题并使用这些操作和知识的少量示例。知识库响应生成模板定义了知识库在响应中的使用和总结方式。后处理模板定义了代理如何对最终响应进行格式化和呈现给终端用户。您可以选择保留模板默认设置,也可以编辑和覆盖模板默认设置。

需要了解的事项

使用 Agents for Amazon Bedrock 的一些最佳实践和需要了解的重要事项如下。

当您让代理集中处理一个特定任务时,它们能够发挥最佳性能。目标(指令)越明确,可用的操作集 (API) 越专注, FM 就越容易推理和确定正确步骤。如果您需要代理来处理各种任务,请考虑创建单独的独立代理。

以下是一些额外的指南:

  • API 数量–在代理中使用三到五个带有几个输入参数的 API 。
  • API 设计——遵循设计 API 的一般最佳实践,例如确保等幂性。
  • API 调用验证–遵循 API 设计的最佳实践,对所有 API 调用进行详尽的验证。这一点尤其重要,因为大型语言模型 (LLM) 可能会产生幻觉输入和输出,事实证明,这些验证对于处理这种情况非常有帮助。

可用性和定价

Agents for Amazon Bedrock 今天在美国东部(北弗吉尼亚州)和美国西部(俄勒冈州)的亚马逊云科技地区上市。将根据代理进行的推理调用 (InvokeModel API)向您收费。InvokeAgent API 不单独收费。详情请查阅 Amazon Bedrock 定价。

了解更多信息

Agents for Amazon Bedrock 产品页面

Agents for Amazon Bedrock 用户指南

控制台中的 Agents for Bedrock

文章来源:
https://dev.amazoncloud.cn/column/article/65716ba80ddfe627e00c7792?sc_medium=regulartraffic&sc_campaign=crossplatform&sc_channel=CSDN

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/246390.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

@德人合科技——天锐绿盾|电脑文件防止泄密|文件、文档、图纸、源代码等透明加密保护,防泄密软件系统

德人合科技——天锐绿盾提供了一种企业办公电脑文件防止泄密的解决方案,该方案对文件、文档、设计图纸、源代码等进行了透明加密保护。 pc访问地址: https://isite.baidu.com/site/wjz012xr/2eae091d-1b97-4276-90bc-6757c5dfedee 透明加密是一种保护文…

Qt 表格相关API

1.文本框 限制输入数据类型(如仅英文) QValidator* validator new QRegExpValidator(QRegExp("[a-zA-Z]"), lineText); // 创建正则表达式验证器lineText->setValidator(validator); // 将验证器设置给 QLineEdit QLineEdit:单…

Python接口自动化 —— Json 数据处理实战(详解)

简介   上一篇说了关于json数据处理,是为了断言方便,这篇就带各位小伙伴实战一下。首先捋一下思路,然后根据思路一步一步的去实现和实战,不要一开始就盲目的动手和无头苍蝇一样到处乱撞,撞得头破血流后而放弃了。不仅…

百元买百鸡问题

#include<stdio.h> void printf(){int z, i, j, t 0;for (i 0; i <20; i){for (j 0; j < 33; j){z 100 - i - j;if ((z % 3 0) && (i * 5 j * 3 z / 3 100)){t;printf("公鸡的个数%d 母鸡的个数%d 小鸡个数%d", i, j, z);printf(&quo…

《使用ThinkPHP6开发项目》 - ThinkPHP6使用JWT验证登录Token

《使用ThinkPHP6开发项目》 - 登录接口三【表单验证】-CSDN博客 上面说到的使用 JWT生成Token&#xff0c;现在来说下如何使用JWT验证登录Token 1&#xff09;在app\common.php文件中引入JWT验证文件 #app\common.php use Firebase\JWT\Key; use Firebase\JWT\SignatureInva…

从开源项目中学习如何自定义 Spring Boot Starter 小组件

前言 今天参考的开源组件Graceful Response——Spring Boot接口优雅响应处理器。 具体用法可以参考github以及官方文档。 基本使用 引入Graceful Response组件 项目中直接引入如下maven依赖&#xff0c;即可使用其相关功能。 <dependency><groupId>com.feiniaoji…

电信网关配置管理系统后台 upload.php 文件上传漏洞复现

0x01 产品简介 中国电信集团有限公司(英文名称“China Telecom”、简称“中国电信”)成立于2000年9月,是中国特大型国有通信企业、上海世博会全球合作伙伴。 0x02 漏洞概述 电信网关配置管理系统后台 /manager/teletext/material/upload.php 接口存在文件上传漏洞,攻击者…

在IDEA中使用Git 、远程仓库克隆工程到本地

4.1 在IDEA中配置Git 安装好IntelliJ IDEA后&#xff0c;如果Git安装在默认路径下&#xff0c;那么idea会自动找到git的位置&#xff0c;如果更改了Git的安装位置则需要手动配置下Git的路径。 选择File→Settings打开设置窗口&#xff0c;找到Version Control下的git选项&…

分布式解决方案与实战

分布式多线程性能调优 使用多线程优化接口 //下单业务public Object order( long userId){long start System.currentTimeMillis();//方法的开始时间戳&#xff08;ms&#xff09;JSONObject orderInfo remoteService.createOrder(userId);Callable<JSONObject> calla…

IntelliJ IDEA2023学习教程

详细介绍idea开发工具及使用技巧 1. 2023版安装1.1删除老版本1.2 下载及安装 3.快捷技巧4. 创建各种model 1. 2023版安装 1.1删除老版本 如果以前装有idea需要先删除&#xff0c;以避免冲突&#xff0c;在idea安装目录/bin/Uninstall.exe双击1.2 下载及安装 最新版本 https:/…

SpringIOC之FilterType

博主介绍&#xff1a;✌全网粉丝5W&#xff0c;全栈开发工程师&#xff0c;从事多年软件开发&#xff0c;在大厂呆过。持有软件中级、六级等证书。可提供微服务项目搭建与毕业项目实战&#xff0c;博主也曾写过优秀论文&#xff0c;查重率极低&#xff0c;在这方面有丰富的经验…

实现进程间的通信

本例程是开发一款能实现进程通信的DLL。本例程以Visual Studio 2015为例。在Visual Studio 2013&#xff0c;Visual Studio 2017都是可以。 第一步&#xff1a;在Visual Studio 2015中&#xff0c;创建DLL工程。如何创建DL&#xff0c;在这里就不作具体说明了。百度都有许多创建…

【Python】—— 文本分析

文本分析 相关知识1. 文本数据处理2. 文本可视化3. Python编程4. 词频统计5. 人名提取6. 自然段划分7. 人物出现频率分布分析8. 词云生成 实验内容数据下载地址&#xff1a;1.对纯英文小说进行分析。2.对中文小说进行分析。 问题与解决附录1.对纯英文小说进行分析。2.对中文小说…

正则化实战( Lasso 套索回归,Ridge 岭回归)

Lasso 套索回归 导入包 import numpy as np from sklearn.linear_model import Lasso from sklearn.linear_model import SGDRegressor, LinearRegression原方程的计算结果 # 1. 创建数据集X&#xff0c;y X 2 * np.random.rand(100, 20) w np.random.rand(20, 1) b np.r…

PyGame字体详解

文章目录 字体初始化获取字体字体对象内置方法 字体初始化 在pygame程序中&#xff0c;第一步势必进行初始化&#xff0c;即调用pygame.init()函数&#xff0c;而此初始化过程&#xff0c;则顺便包含了字体初始化&#xff0c;即默不作声地调用了pygame.font.init()函数。下面通…

FreeModbus--学习函数指针

目录 函数指针 最简单的例子 稍作修改例子 引入协议栈的函数指针 引入协议栈第二处函数指针 函数指针 该协议栈中使用到函数指针&#xff0c;现开展一篇专门存放函数指针的文章。 C语言的函数指针是指向函数的指针变量&#xff0c;可以用来存储和调用函数的地址。在C语言中…

【亲测】获取百度智能云access_token并存储,百度智能云access_token有效期

百度智能云服务内置很多api接口&#xff08;文字识别&#xff0c;企业信息识别&#xff0c;等&#xff09;&#xff0c;所有百度智能云自带的接口都会用到百度的access_token 第一步&#xff1a;登录百度智能云管理中心 第二步&#xff1a;创建账户&#xff0c;完整身份认证 …

智能优化算法应用:基于乌燕鸥算法3D无线传感器网络(WSN)覆盖优化 - 附代码

智能优化算法应用&#xff1a;基于乌燕鸥算法3D无线传感器网络(WSN)覆盖优化 - 附代码 文章目录 智能优化算法应用&#xff1a;基于乌燕鸥算法3D无线传感器网络(WSN)覆盖优化 - 附代码1.无线传感网络节点模型2.覆盖数学模型及分析3.乌燕鸥算法4.实验参数设定5.算法结果6.参考文…

jmeter判断’响应断言‘两个变量对象是否相等

1、首先需要设置变量&#xff0c;json、正则、csv文件等变量 2、然后在响应断言中 ①JMeter Variable Name to use —— 输入一个变量&#xff0c;变量名即可 ② 模式匹配规则 ——相等 ③测试模式 ——输入引用的变量命${变量名} &#xff08;注意这里是需要添加一个测试模式…

安卓开发显示加载中

private ProgressDialog loadobj; // 显示 ProgressDialog loadobj loadobj.show(MainActivity.this, "正在加载", "请稍后..."); // 取消 ProgressDialog loadobj.dismiss();或者 public ProgressDialog progressDialog;public void loading(){// …