Amazon Bedrock 知识库现在支持 Amazon Aurora PostgreSQL 和 Cohere 嵌入模型

在 2023 年亚马逊云科技 re:Invent 期间，我们宣布了 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 知识库正式上线。借助知识库，您可以将 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 中的基础模型（FM）安全连接到贵公司的数据，以实现检索式增强生成（RAG）。 在[以前的博文](https://dev.amazoncloud.cn/column/article/65a4d54ae6954a661ee2ac25)中，我介绍了 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 知识库如何为您管理端到端的 RAG 工作流。您只需指定数据位置，选择嵌入模型以将数据转换为向量嵌入，然后让 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 在您的亚马逊云科技账户中创建一个向量存储，来存储向量数据，如下图所示。您还可以自定义 RAG 工作流，例如指定自己的自定义向量存储库。  自我的上一篇文章在 11 月发表以来，知识库已经进行了多次更新，包括可将 [Amazon Aurora](https://aws.amazon.com/cn/rds/aurora/?trk=cndc-detail) PostgreSQL-兼容版作为除 Amazon OpenSearch [无服务器](https://aws.amazon.com/cn/serverless/?trk=cndc-detail)的向量引擎、Pinecone 和 Redis Enterprise Cloud 之外的又一个自定义向量存储选项。但不止如此，下面我将简单介绍一下新增的功能。 ### **更多嵌入模型选择** 嵌入模型可将数据（例如文档）转换为向量嵌入。向量嵌入包括将文档中的文本数据表现为数字形式。每个嵌入都旨在捕获数据的语义或上下文含义。 Cohere Embed v3 – 除 Amazon Titan 文本嵌入之外，您现在还有另外两种嵌入模型可以选择，即 Cohere Embed 英语 和 Cohere Embed 多语言，每种模型都支持 1,024 个维度。  查看 Cohere 博客，了解有关 Cohere Embed v3 模型的更多信息：https://txt.cohere.com/introducing-embed-v3/?trk=cndc-detail ### **更多向量存储选择** 每个向量嵌入都放入向量存储中，通常还带有其他元数据，例如对从中创建嵌入的原始内容的引用。向量存储为存储的向量嵌入建立索引，从而可以快速检索相关数据。 知识库可为您提供完全托管式的 RAG 体验，包括在您的账户中创建向量存储来存储向量数据。您还可以从支持的选项列表中创建自定义向量存储，并且提供向量数据库索引名称以及索引字段和元数据字段映射。 对于向量存储的更新，我想重点介绍一下最近的三次更新：在支持的自定义向量存储列表中增加了 [Amazon Aurora](https://aws.amazon.com/cn/rds/aurora/?trk=cndc-detail) PostgreSQL 兼容版和 Pinecone [无服务器](https://aws.amazon.com/cn/serverless/?trk=cndc-detail)，以及对现有 Amazon OpenSearch [无服务器](https://aws.amazon.com/cn/serverless/?trk=cndc-detail)集成的更新，有着有助于降低开发和测试工作负载的成本。 **[Amazon Aurora](https://aws.amazon.com/cn/rds/aurora/?trk=cndc-detail) PostgreSQL** – 除 Amazon OpenSearch [无服务器](https://aws.amazon.com/cn/serverless/?trk=cndc-detail)的向量引擎、Pinecone 和 Redis Enterprise Cloud 外，您现在还可以选择将 [Amazon Aurora](https://aws.amazon.com/cn/rds/aurora/?trk=cndc-detail) PostgreSQL 作为知识库的向量数据库。  Aurora 是一种关系数据库服务，与 MySQL 和 PostgreSQL 完全兼容。因此现有的应用程序和工具无需修改即可运行。Aurora PostgreSQL 支持开源 pgvector 扩展，从而可以存储、索引和查询向量嵌入。 针对常规数据库工作负载的许多 Aurora 功能也同样适用于向量嵌入工作负载： - 与开源 PostgreSQL 相比，Aurora 提供的数据库吞吐量高达前者的 3 倍，并且支持 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 中的向量操作。 - Aurora Serverless v2 可根据来自 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 的实时查询负载弹性扩缩存储和计算容量，从而确保最优预置。 - Aurora 全球数据库提供跨多个亚马逊云科技区域的全球低延迟读取和灾难恢复能力。 - 蓝绿部署在同步的暂存环境中复制生产数据库，从而可在不影响生产环境的情况下进行修改。 - [Amazon EC2 ](https://aws.amazon.com/cn/ec2/?trk=cndc-detail)R6gd 和 R6id 实例上的 Aurora 优化读取功能使用本地存储，来增强复杂查询和索引重新生成操作的读取性能和吞吐量。对于不适合放入内存的向量工作负载，与相同大小的 Aurora 实例相比，Aurora 优化读取功能可将查询性能提升高达 9 倍。 - Aurora 与 Secrets Manager、IAM 和 RDS 数据 API 等亚马逊云科技服务无缝集成，确保能够安全地从 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 连接到数据库，并支持使用 SQL 进行向量操作。 要详细了解如何为知识库配置 Aurora，请参阅： - [亚马逊云科技数据库博客文章](https://aws.amazon.com/blogs/database/build-generative-ai-applications-with-amazon-aurora-and-knowledge-bases-for-amazon-bedrock/?trk=cndc-detail) - [Aurora 用户指南](https://docs.aws.amazon.com/AmazonRDS/latest/AuroraUserGuide/AuroraPostgreSQL.VectorDB.html?trk=cndc-detail) **Pinecone [无服务器](https://aws.amazon.com/cn/serverless/?trk=cndc-detail)** – Pinecone 最近推出了 Pinecone [无服务器](https://aws.amazon.com/cn/serverless/?trk=cndc-detail)。如果您在知识库中选择将 Pinecone 作为自定义向量存储，则提供 Pinecone 或 Pinecone [无服务器](https://aws.amazon.com/cn/serverless/?trk=cndc-detail)配置的详细信息均可。这两个选项都受支持。 ### **降低 Amazon OpenSearch 无服务器中的开发和测试工作负载成本** 当您选择此选项来快速创建新的向量存储时，[Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 会在您账户的 Amazon OpenSearch [无服务器](https://aws.amazon.com/cn/serverless/?trk=cndc-detail)中创建一个向量索引，因此无需自行管理任何内容。 自 11 月上线以来，Amazon OpenSearch [无服务器](https://aws.amazon.com/cn/serverless/?trk=cndc-detail)的向量引擎让您可以选择为开发和测试工作负载禁用冗余副本，从而降低成本。您最初可以使用两个 OpenSearch 计算单元（OCU），一个用于索引，另一个用于搜索，与使用冗余副本相比，这样操作的成本可减少一半。此外，OCU 支持小数计费，可首先使用 0.5 个 OCU，然后根据需要扩展，从而可以进一步降低成本。对于开发和测试工作负载，最低 1 个 OCU（在索引和搜索负载之间拆分）现在就足够了，与生产工作负载需要的 4 个 OCU 相比，成本可降低高达 75%。 **易用性改进** – 现在，当您在 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 知识库中选择快速创建工作流时，系统会默认禁用冗余副本。您也可以通过选择更新到生产工作负载来创建具有冗余副本的集合。  有关 Amazon OpenSearch [无服务器](https://aws.amazon.com/cn/serverless/?trk=cndc-detail)的向量引擎的更多详情，请参阅 [Channy 的文章](https://aws.amazon.com/blogs/aws/vector-engine-for-amazon-opensearch-serverless-is-now-generally-available/?trk=cndc-detail)。 ### **更多 FM 选择** 在运行时，RAG 工作流会从用户查询开始。使用嵌入模型，可以创建输入提示的向量嵌入表示。然后使用此嵌入在数据库中查询相似的向量嵌入，以检索最相关的文本作为查询结果。接下来，将查询结果添加到原始提示中，并将增强的提示传递给 FM。模型使用提示中的附加上下文来生成完成内容，如下图所示。  **Anthropic Claude 2.1** – 除了 Anthropic Claude Instant 1.2 和 Claude 2 之外，您现在还可以选择将 Claude 2.1 用于知识库。与之前的 Claude 模型相比，Claude 2.1 支持的上下文窗口大小增加了一倍，达到 20 万个令牌。  要了解有关 Claude 2.1 的更多信息，请参阅[ Anthropic 博客](https://www.anthropic.com/news/claude-2-1?trk=cndc-detail)。 ### **现已推出** [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 知识库（包括更多的嵌入模型、向量存储和 FM 选择）现已在美国东部（弗吉尼亚州北部）和美国西部（俄勒冈州）亚马逊云科技区域开放。 ### **了解详情** - [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 知识库产品页面 https://aws.amazon.com/bedrock/knowledge-bases/?trk=cndc-detail - community 上的 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 知识库 https://community.aws/tags/Knowledge%20Bases%20for%20Bedrock?trk=cndc-detail - 控制台中的 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) https://community.aws/tags/Knowledge%20Bases%20for%20Bedrock?trk=cndc-detail ### **阅读有关 Amazon Bedrock 知识库的更多信息** - 使用 [Amazon Aurora](https://aws.amazon.com/cn/rds/aurora/?trk=cndc-detail) 和 [Amazon Bedrock](https://aws.amazon.com/cn/bedrock/?trk=cndc-detail) 知识库构建生成式 AI 应用（博客） https://aws.amazon.com/blogs/database/build-generative-ai-applications-with-amazon-aurora-and-knowledge-bases-for-amazon-bedrock/?trk=cndc-detail - Amazon OpenSearch [无服务器](https://aws.amazon.com/cn/serverless/?trk=cndc-detail)的向量引擎现已推出（博客） https://aws.amazon.com/blogs/database/build-generative-ai-applications-with-amazon-aurora-and-knowledge-bases-for-amazon-bedrock/?trk=cndc-detail