【Claude 3 Haiku】基于Amazon Bedrock初体验Claude 3 Haiku 模型

文章目录

- 1. Claude 3 Haiku介绍
- 2. Amazon Bedrock介绍
- 3. 访问 Amazon Bedrock UI
- 4. 授权Claude 3 Haiku访问权限
- 5. Claude 3 Haiku 初体验
- 6. Claude 3 Haiku 用例
- - 6.1 让Claude 3 Haiku写一段Code
  - 6.2 让Claude 3 Haiku翻译英文
  - 6.3 让Claude 3 Haiku 识别图片并作文字性描述
- 7. Claude 模型对比体验
- - 7.1 开启模型比较模式
  - 7.2 模型之间翻译速度及质量对比情况
- 8. AWS SAP课程预告
- 9. 生成式 AI 课程推荐
- 10. 参考链接

Claude 3 Haiku 基础模型是 Claude 3 系列中最快速、最紧凑的模型，专为近乎瞬时的响应性和模仿人类互动的无缝生成式 AI 体验而设计。

1. Claude 3 Haiku介绍

继Claude 3 Sonnet 发布之后，Claude 3 Haiku也相继推出,它是其智能等级中最快、最经济实惠的模型。凭借其先进的视觉能力和在行业基准测试中出色的表现,Haiku 是广泛企业应用的灵活解决方案。该模型现已在 Claude API 和我们面向 Claude Pro 订阅用户的 claude.ai 上推出,与 Sonnet 和 Opus 一同提供服务。

对于需要快速分析大量数据集并及时生成输出以应对诸如客户支持等任务的企业用户来说,速度至关重要。

对于提示令牌数小于 32K 令牌的绝大多数工作负载,Claude 3 Haiku 的处理速度是同类产品的三倍,每秒可处理 21K 令牌(约 30 页)。

它还能快速生成输出,从而支持响应迅速、体验引人入胜的聊天互动,并同时执行多项小任务。

除了速度和经济实惠之外,Claude 3 Haiku 还注重企业级安全性和稳健性。

其他防御层包括持续系统监控、端点加固、安全编码实践、强大的数据加密协议和严格的访问控制措施,以保护敏感数据。

从今天开始,用户可以通过调用 API 或使用 Claude Pro 订阅去体验使用 Claude 3 Haiku。

Claude 3 Haiku 可在 Amazon Bedrock 上使用。

2. Amazon Bedrock介绍

Amazon Bedrock 是一项完全托管的服务，通过单个 API 提供来自 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 和 Amazon 等领先人工智能公司的高性能基础模型（FM），以及通过安全性、隐私性和负责任的 AI 构建生成式人工智能应用程序所需的一系列广泛功能。使用 Amazon Bedrock，您可以轻松试验和评估适合您的使用案例的热门 FM，通过微调和检索增强生成（RAG）等技术利用您的数据对其进行私人定制，并构建使用您的企业系统和数据来源执行任务的代理。由于 Amazon Bedrock 是无服务器的，因此您无需管理任何基础设施，并且可以使用已经熟悉的亚马逊云科技服务将生成式人工智能功能安全地集成和部署到您的应用程序中。

3. 访问 Amazon Bedrock UI

快速访问Bedrock链接：https://us-east-1.console.aws.amazon.com/bedrock/home?region=us-east-1#/

4. 授权Claude 3 Haiku访问权限

点击Submit use case details来申请访问Claude模型

5. Claude 3 Haiku 初体验

若要在控制台中测试 Claude 3 Haiku，请在左侧菜单窗格中的“Playgrounds”下选择 “文本” 或 “聊天” 。然后选择“选择模型”，选择“Anthropic”作为类别，选择“Claude 3 Haiku”作为模型。

选择模型。

类别：Anthropic
模型：Claude 3 Haiku
吞吐量：按需

Claud 3 Haiku。调整最大长度，防止输出卡断。

6. Claude 3 Haiku 用例

客户互动：快速准确地支持实时互动、翻译
内容审核：捕获有风险的行为或客户请求
节省成本的任务：优化物流、库存管理、从非结构化数据中快速提取知识

6.1 让Claude 3 Haiku写一段Code

prompt如下case：

Write a short and high-quality python script for the following task, something a very skilled python expert would write. You are writing code for an experienced developer so only add comments for things that are non-obvious. Make sure to include any imports required. NEVER write anything before the ```python```block. After you are done generating the code and after the ```python```block, check your work carefully to make sure there are no mistakes, errors, or inconsistencies. If there are errors, list those errors in tags, then generate a new version with those errors fixed. If there are no errors, write "CHECKED: NO ERRORS" in tags. Here is the task: A web scraper that extracts data from multiple pages and stores results in a SQLite database. Double check your work to ensure no errors or inconsistencies.

根据需求，Claude 3 Haiku输出我们所需要的代码。

在下方，可以看到模型指标。

6.2 让Claude 3 Haiku翻译英文

提供一段英文，给Claude 3 Haiku，让其翻译成中文。

以下是英文任务的中文翻译:

编写一个简短而优质的 Python 脚本来完成以下任务,这是一个非常熟练的 Python 专家会编写的代码。你正在为一位有经验的开发人员编写代码,因此只需为非明显的事物添加注释。确保包含任何所需的导入。在 ```python```块之前不要写任何内容。完成代码生成后,仔细检查你的工作,确保没有任何错误、错误或不一致之处。如果有错误,请用标签列出这些错误,然后生成一个新版本来修复这些错误。如果没有错误,请在标签中写"CHECKED: NO ERRORS"。任务如下:一个网络爬虫,从多个页面提取数据并将结果存储在 SQLite 数据库中。仔细检查你的工作,确保没有错误或不一致之处。

从翻译结果和翻译质量来看，逻辑清晰，思维严谨。

6.3 让Claude 3 Haiku 识别图片并作文字性描述

点击image按钮，上传下方图片，给Claude 3 Haiku做图片识别。

点击image按钮，即可上传图片。

从图像识别出来的结果来看，结果还是十分精准和描述清晰可靠。

在最后，可以看到模型指标的各项参数。

7. Claude 模型对比体验

7.1 开启模型比较模式

首先，开启比较模式；其次选择需要对比的模型。

7.2 模型之间翻译速度及质量对比情况

测试语料如下：

Today we’re releasing Claude 3 Haiku, the fastest and most affordable model in its intelligence class. With state-of-the-art vision capabilities and strong performance on industry benchmarks, Haiku is a versatile solution for a wide range of enterprise applications. The model is now available alongside Sonnet and Opus in the Claude API and on claude.ai for our Claude Pro subscribers.

Speed is essential for our enterprise users who need to quickly analyze large datasets and generate timely output for tasks like customer support. Claude 3 Haiku is three times faster than its peers for the vast majority of workloads, processing 21K tokens (~30 pages) per second for prompts under 32K tokens [1]. It also generates swift output, enabling responsive, engaging chat experiences and the execution of many small tasks in tandem.

Haiku's pricing model, with a 1:5 input-to-output token ratio, was designed for enterprise workloads which often involve longer prompts. Businesses can rely on Haiku to quickly analyze large volumes of documents, such as quarterly filings, contracts, or legal cases, for half the cost of other models in its performance tier. For instance, Claude 3 Haiku can process and analyze 400 Supreme Court cases [2] or 2,500 images [3] for just one US dollar.

Alongside its speed and affordability, Claude 3 Haiku prioritizes enterprise-grade security and robustness. We conduct rigorous testing to reduce the likelihood of harmful outputs and jailbreaks of our models so they are as safe as possible. Additional layers of defense include continuous systems monitoring, endpoint hardening, secure coding practices, strong data encryption protocols, and stringent access controls to protect sensitive data. We also conduct regular security audits and work with experienced penetration testers to proactively identify and address vulnerabilities. More information about these measures can be found in the Claude 3 model card.

Starting today, customers can use Claude 3 Haiku through our API or with a Claude Pro subscription on claude.ai. Claude 3 Haiku is available on Amazon Bedrock and will be coming soon to Google Cloud Vertex AI.

请讲上面的英文段落翻译成中文，需要注意措辞合理，逻辑严谨，表达清晰合理。

模型测试输出动画过程展示：

Claude 3 Haiku 翻译结果：

今天,我们发布了 Claude 3 Haiku,这是其智能类别中最快速和最实惠的模型。凭借先进的视觉能力和在行业基准测试中的出色表现,Haiku 是适用于广泛企业应用的多功能解决方案。该模型现已在 Claude API 和 claude.ai 平台上与 Sonnet 和 Opus 一起提供,供 Claude Pro 订阅用户使用。

对于需要快速分析大型数据集并为客户支持等任务生成及时输出的企业用户来说,速度至关重要。Claude 3 Haiku 在大部分工作负载中的速度是同类模型的3倍,可以每秒处理21K个令牌(约30页)的提示,长度不超过32K个令牌[1]。它还能够快速生成输出,从而实现响应式、生动的聊天体验,并能同时执行多项小任务。

Haiku 的定价模式采用1:5的输入输出令牌比率,针对的是通常涉及较长提示的企业工作负载。企业可以依赖 Haiku 快速分析大量文档,如季度报告、合同或法律案件,费用是同等性能等级其他模型的一半。例如,Claude 3 Haiku 可以以仅1美元的价格处理并分析400起最高法院案件[2]或2,500张图像[3]。

除了速度和经济性,Claude 3 Haiku 还重视企业级安全性和稳健性。我们进行了严格的测试,以降低模型产生有害输出和被破解的可能性,尽可能确保其安全性。其他防御措施包括持续的系统监控、端点加固、安全编码实践、强大的数据加密协议,以及对敏感数据实施严格的访问控制。我们还定期进行安全审计,并与有经验的渗透测试人员合作,主动发现并解决漏洞。更多相关信息可查阅 Claude 3 模型卡。

从今天开始,客户可以通过我们的 API 或在 claude.ai 平台上使用 Claude Pro 订阅服务来使用 Claude 3 Haiku。Claude 3 Haiku 目前已在亚马逊 Bedrock 上提供,并将很快登陆 Google Cloud Vertex AI。

Claude 3 Sonnet 翻译结果：

今天,我们发布了 Claude 3 Haiku,这是其智能等级中最快、最经济实惠的模型。凭借其先进的视觉能力和在行业基准测试中出色的表现,Haiku 是广泛企业应用的灵活解决方案。该模型现已在 Claude API 和我们面向 Claude Pro 订阅用户的 claude.ai 上推出,与 Sonnet 和 Opus 一同提供服务。

对于需要快速分析大量数据集并及时生成输出以应对诸如客户支持等任务的企业用户来说,速度至关重要。对于提示令牌数小于 32K 令牌的绝大多数工作负载,Claude 3 Haiku 的处理速度是同类产品的三倍,每秒可处理 21K 令牌(约 30 页)。[1] 它还能快速生成输出,从而支持响应迅速、体验引人入胜的聊天互动,并同时执行多项小任务。

Haiku 的定价模式采用 1:5 的输入输出令牌比率,专为通常涉及较长提示的企业工作负载而设计。企业可依赖 Haiku 以较低的成本快速分析大量文档,例如季度报告、合同或法律案例。例如,Claude 3 Haiku 可以花费 1 美元分析 400 起最高法院案例[2]或 2,500 张图像[3]。

除了速度和经济实惠之外,Claude 3 Haiku 还注重企业级安全性和稳健性。我们进行了严格的测试,以降低有害输出和模型越狱的可能性,确保模型尽可能安全。其他防御层包括持续系统监控、端点加固、安全编码实践、强大的数据加密协议和严格的访问控制措施,以保护敏感数据。我们还定期进行安全审计,并与经验丰富的渗透测试人员合作,主动发现并解决漏洞。有关这些措施的更多信息,请参阅 Claude 3 模型卡片。

从今天开始,客户可以通过我们的 API 或使用 Claude Pro 订阅在 claude.ai 上使用 Claude 3 Haiku。Claude 3 Haiku 可在 Amazon Bedrock 上使用,并将很快在 Google Cloud Vertex AI 上推出。

测试结果分析：

从速度上来说，Claude 3 Haiku 更胜一筹。

从翻译质量上来说，Claude 3 Sonnet 更具有通读性，更加符合大众化的阅读习惯。

模型指标对比结果：

8. AWS SAP课程预告

活动介绍：

活动主题： 备考训练营：AWS Certified 解决方案架构师——专业级

活动时间： 2024/03/19 12:45 - 2024/03/19 17:00

活动地点：线上

学习难度： 专家级

课程介绍：

AWS Certified 解决方案架构师 — 专业级认证验证了您在亚马逊云科技平台上设计分布式应用程序和系统所需的高级技能和经验。该在线研讨会结合了亚马逊云科技高级架构培训课的内容来检查考试范围，并指出特定的研究领域，从而帮助您准备考试。此外，每个学科领域的样题可以帮助您理解考试概念，您可以学习如何轻松地排除错误答案。我们建议您在参加在线研讨会之前完成亚马逊云科技上的高级架构课程。

合适客群：

准备参加 AWS Certified 解决方案架构师——专业级考试的解决方案架构师

报名链接：

备考训练营：AWS Certified 解决方案架构师——专业级-活动-亚马逊云科技开发者社区

9. 生成式 AI 课程推荐

Amazon Bedrock 这么香，想要更直观全面的解锁它的更多功能吗？想要快速上手 Amazon Bedrock 吗？除了 Amazon Bedrock，还有什么生成式 AI 课程让自己的知识库更丰富？请往下看！

《Amazon Bedrock 入门》

了解它，学习它，拥有它！在本入门课程中，你将了解 Amazon Bedrock 的优势、功能、典型使用案例、技术概念和成本。同时还将回顾使用 Amazon Bedrock 以及其他亚马逊云科技产品构建 Chatbot 解决方案的架构。通过由解说视频、分步说明和转录文本组成的引导式教程，您还将在自己的亚马逊云科技账户中尝试使用 Amazon Bedrock。

学课通道：
https://explore.skillbuilder.aws/learn/course/external/view/elearning/17957/amazon-bedrock-getting-started-simplified-chinese?trk=3401c3c8-0d36-47c5-a969-ba921bb2a2de&sc_channel=el

《深度学习入门》

Amazon Bedrock 汇聚了业内很多领先的大语言模型，而大语言模型是指利用深度学习技术对大规模文本数据进行训练的 AI 模型，它可以生成具有高度流畅和连贯性的自然语言文本，甚至能够完成对话和问答等任务。在亚马逊云科技《深度学习入门》中，你将了解深度学习的概念以及可用于深度学习的亚马逊云科技服务，同时本课程还将介绍一个正在使用深度学习进行创新的亚马逊云科技客户的案例研究，让你可以更具体的了解深度学习在当前环境下的应用与实践。

学课通道：
https://devpress.csdn.net/awstech/edu/33f35126ecd79aaa41b91654c50a1532?utm_source=AWS-social-FY24-Mar