数字化时代,人工智能的发展为应用开发带来了前所未有的机遇。LangChain与Zep的结合,为开发者提供了全新的LLM应用开发方式。在这篇文章中,我们将介绍如何使用TypeScript、LangChain.js和Zep构建三种基础LLM应用,助力您在数字化创新的道路上前行。
通用语言模型与Web应用开发
虽然Python在LLM领域备受瞩目,但大多数Web应用都是使用TypeScript、JavaScript等相关技术构建的。Zep对TypeScript和JavaScript提供了一流支持,而本文将探讨如何使用Zep和LangChain.js来构建各类LLM应用的基础。
长期记忆支持
Zep的长期记忆存储系统使得开发者能够轻松地将相关文档、聊天历史以及丰富的用户数据添加到他们的提示中,无需管理多个基础设施组件。此外,Zep还可以自动嵌入聊天历史和文档,减少对第三方嵌入API的依赖。
基础LLM应用构建
在本文中,我们将使用LangChain的ZepMemory和ZepVectorStore类构建三种类型的基础LLM应用:
-
一个简单的对话机器人,使用ConversationChain。通过这个示例,我们将演示如何召回过去的对话。
-
一个检索增强生成应用,使用ConversationalRetrievalQAChain。我们将演示如何将多本书籍的内容加载到Zep的VectorStore中,并向LLM提问有关这些书籍的问题。
-
最后,我们将构建一个像REACT一样的代理,可以访问两个工具:peopleRetriever工具和bookSearch工具。这两个工具分别提供按人名过滤的历史聊天消息的搜索,以及对书籍收藏的搜索访问。
透明性的LangSmith平台
LangSmith平台为开发者提供了观察LLM链和代理在背后运行的机会。这一平台可以深入了解链和代理的内部运行情况,从而提供有关它们的详细洞察。
示例:对过去对话的回顾
让我们从一个简单的示例开始,召回过去的对话。我们首先初始化Zep,并为会话创建一个唯一的sessionId,然后将测试数据加载到这个会话的聊天历史中。随后,我们使用LangChain构建一个ConversationChain,向LLM询问我们已经讨论过的内容。
展望未来
数字化创新正在不断推动着应用开发的前进。通过LangChain与Zep的合作,开发者可以更加高效地构建出基于LLM的应用,为用户提供更好的体验。在这个数字化时代,LLM将扮演着越来越重要的角色,助力企业实现更高的创新高度。
文章来自ChatGPT3.5