虹科干货丨来抄作业！用Redis VSS，让大语言模型更懂你

引导语：

好沮丧，大语言模型不懂我怎么办，怎么也搜不到想要的答案(ㄒoㄒ)当当当当，Redis VSS闪亮登场，不必微调模型，也能轻松驾驭大语言，快速解答你的疑虑，满足你的求知欲，你的AI好伙伴！

简介：使用大型语言模型(Large Language Model, LLM)时，经常需要检索与问题相关的数据作为语境，这是为了在不微调LLM的情况下，让LLM了解您的自定义数据。向量搜索是一种很流行的数据检索策略，因为它很擅长匹配相似的数据。Redis原生支持向量相似性搜索，专为速度而设计。

朋友圈文案：检索不到想要的信息？怎么才能够让大语言模型更懂你呢？Redis VSS向量检索来助力，更快的对话式搜索，让大语言模型成为更懂你的朋友。
关键词：Redis；向量检索；大语言模型；

在这个简短的教程中，我们将使用 Relevance AI、Redis VSS、OpenAI GPT 和 Cohere Wikipedia 嵌入创建一条LLM链，这使得我们能够使用Redis向量搜索向百科提问，根据我们的问题搜索最相似的文章。对于嵌入向量，它们是表示各种类型数据的数字列表，在这里，我们使用Cohere多语言模型生成的嵌入向量。
为了按照本教程进行操作，您需要一个支持JSON文档数据结构，且内置实时搜索和查询功能的Redis数据库。您可以选择在Redis Enterprise Cloud上创建，或者在Docker中使用Redis Stack创建。

一、设置Redis作为向量数据库

运行Redis之后，我们从HuggingFace上导入Cohere的多语言维基百科嵌入数据集，这只需要几个简单的步骤，您可以在这个jupyter笔记本中查看完整的代码。

步骤 1. 安装redis和datasets的Python库。

步骤 2. 创建一个客户端连接。

步骤 3. 下载样本数据集。

步骤 4. 使用JSON将每个文档导入Redis。

步骤 5. 创建一个向量搜索索引

此命令指定索引Wikipedia，该索引在JSON中存储数据，其中所有键都使用前缀wiki:进行索引。在模式中，我们使用$.field_name引用JSON中的每个字段，并用名称及其数据类型为其添加一个友好的标签。向量字段“emb”是向量类型，并使用HNSW作为索引类型，L2作为距离度量方式。

命令运行后，您就拥有了支持向量相似性搜索的Redis索引。

二、建立LLM链

接下来，就可以进入Relevance AI笔记本开始构建我们的LLM链了。

步骤 1. 如有必要，请注册Relevance AI的免费帐户。登录后，选择“构建AI链”并点击“创建新链”，您将进入到一个笔记本界面。

Relevance AI链笔记本

步骤 2. 在执行LLM链之前，您需要配置您的OpenAI API密钥和Redis链接字符串。请从侧边栏选择“API keys”，然后提供您的Redis链接字符串和OpenAI API密钥。

步骤 3. 选择“从Prompt开始”，为“向量搜索(Redis)”添加新的转换。使用以下详细信息填写表格：

• 索引名称：您在Redis中创建的索引，即wikipedia。
• 向量字段：存储嵌入的字段，对于维基百科数据集，这里填emb。
• 模型Model: cohere-multilingual-22-12，生成搜索查询的向量嵌入。
• 搜索查询: 我们快速为LLM链定义一个输入。按{}并输入{{params.question}}将其更改为变量模式。

Redis 向量搜索步骤及其输入的示例。

步骤4. 配置LLM Prompt以使用向量搜索向Prompt中注入上下文并提问。您可以根据自己的需要自定义Prompt。

LLM 步骤的示例，该步骤从 Redis 搜索和查询中获取上下文并提出问题。

这是为了帮助人们查询大量的信息。比如，你最喜欢周杰伦的《夜曲》，你想知道：“这首歌的吉他前奏是谁弹奏的？”有了LLM链，你就可以把这个问题扔给结合了AI的维基百科进行搜索，它会迅速给出答案。

这不仅仅是实践新技术，更是快速地加深你的理解并满足你的好奇心。我们的LLM链就像位知识渊博的朋友，热情地与你清茶淡话，它随时准备同你对话，这为知识搜索增添了一丝人情味。

三、部署链

Relevance AI提供了两种部署链的方法：作为可嵌入的应用程序或作为API端点。应用程序也可以通过链接直接与用户共享，用户可以看到表格，填写并运行LLM链，这些现在已经可以用于生产中了。

带有可用于生产的 API 端点或可共享 URL 表单的LLM链的部署页面

虹科是Redis原厂的中国区战略合作伙伴。我们持续关注各行业当下急切需求，专注于为企业解答疑问，制定专属服务，提供一站式数据库和商业智能解决方案。了解更多【企业级数据库解决方案】及【企业缓存指南】，欢迎前往虹科云科技官网！

联系虹科工程师：15528663362

联系方式链接：https://t.dustess.com/Fc6fpUjg

官网链接：https://hongcloudtech.com/