$("body").append("")

Zep x LangSmith:LangChain与Zep助力LLM应用开发

777次阅读
没有评论

Zep x LangSmith:LangChain与Zep助力LLM应用开发

数字化时代,人工智能的发展为应用开发带来了前所未有的机遇。LangChain与Zep的结合,为开发者提供了全新的LLM应用开发方式。在这篇文章中,我们将介绍如何使用TypeScript、LangChain.js和Zep构建三种基础LLM应用,助力您在数字化创新的道路上前行。

通用语言模型与Web应用开发

虽然Python在LLM领域备受瞩目,但大多数Web应用都是使用TypeScript、JavaScript等相关技术构建的。Zep对TypeScript和JavaScript提供了一流支持,而本文将探讨如何使用Zep和LangChain.js来构建各类LLM应用的基础。

长期记忆支持

Zep的长期记忆存储系统使得开发者能够轻松地将相关文档、聊天历史以及丰富的用户数据添加到他们的提示中,无需管理多个基础设施组件。此外,Zep还可以自动嵌入聊天历史和文档,减少对第三方嵌入API的依赖。

基础LLM应用构建

在本文中,我们将使用LangChain的ZepMemory和ZepVectorStore类构建三种类型的基础LLM应用:

  1. 一个简单的对话机器人,使用ConversationChain。通过这个示例,我们将演示如何召回过去的对话。

  2. 一个检索增强生成应用,使用ConversationalRetrievalQAChain。我们将演示如何将多本书籍的内容加载到Zep的VectorStore中,并向LLM提问有关这些书籍的问题。

  3. 最后,我们将构建一个像REACT一样的代理,可以访问两个工具:peopleRetriever工具和bookSearch工具。这两个工具分别提供按人名过滤的历史聊天消息的搜索,以及对书籍收藏的搜索访问。

透明性的LangSmith平台

LangSmith平台为开发者提供了观察LLM链和代理在背后运行的机会。这一平台可以深入了解链和代理的内部运行情况,从而提供有关它们的详细洞察。

示例:对过去对话的回顾

让我们从一个简单的示例开始,召回过去的对话。我们首先初始化Zep,并为会话创建一个唯一的sessionId,然后将测试数据加载到这个会话的聊天历史中。随后,我们使用LangChain构建一个ConversationChain,向LLM询问我们已经讨论过的内容。

展望未来

数字化创新正在不断推动着应用开发的前进。通过LangChain与Zep的合作,开发者可以更加高效地构建出基于LLM的应用,为用户提供更好的体验。在这个数字化时代,LLM将扮演着越来越重要的角色,助力企业实现更高的创新高度。

https://blog.langchain.dev/zep-x-langsmith-foundations-of-llm-app-development-with-langchain-js-and-zep/?utm_source=bensbites&utm_medium=referral&utm_campaign=microsoft-s-situationship-with-openai

文章来自ChatGPT3.5

正文完