第045期:大模型时代,前端必须了解一下LangChain应用开发框架

AI大模型时代已经开始显露出颠覆传统开发范式的趋势,新的应用开发模式正在逐渐显现。LangChain是一个可以用Javascript来进行开发的大模型应用开发框架,它本质上也提供了一种用大模型来进行应用开发的成熟的技术路线/框架。本期节目详细讲解了这个成熟的技术路线是怎么利用大模型来进行应用的。

在线收听

喜马拉雅:点击播放

你还可以在苹果自带的 Podcast 应用、小宇宙APP、QQ音乐中搜“Robust”找到我们的节目收听。

捐赠支持

求打赏🙇如果你觉得 Robust 这样一档技术类的谈话节目还不错,希望我继续做下去,不妨打赏支持。

内容摘要

  • 什么是LangChain?
    • LangChain本身是一个开源开发框架,目前提供Python和Js两种版本,它以大模型作为其核心依赖之一,以让实现应用目标更便捷
    • LangChain的核心理念:
      • 数据感知:将语言模型与其他数据源连接在一起
      • 主动性:允许语言模型与其环境进行交互
      • 链性:应用模块/组件之间以链的形式组合在一起
    • LangChain框架本身实现了很多组件
    • LangChain的诞生,实际上出现了一种架构,提供了一种利用GPT进行应用开发的成熟技术路线,这种架构的核心思想就是Chain(链)
    • Chain的思路,对实现某种流程非常有帮助,而很多企业应用,都是流程式的应用。Chain的概念的本质,就是一种处理流程模型,也就是把要做成功一件事,应该按照什么流程才能成功进行了抽象。它比某种具体的模型层次更高,不同的业务模型都可以借助相同的Chain实现目标,Chain是对流程范式的抽象。Chain也有多种,比如串行链、并行链、路由链。
    • 它背后的思想其实也是我们做事的方法,就是我把一个复杂的大目标,拆分成多个阶段的任务,不断拆分子任务,通过按照顺序完成小任务之后,不断积累,最终完成整个目标
  • LangChain应用的模块/要素
    • Chains,链
      • Executors,执行器
    • Model I/O,模型
      • Prompt,提示
        • PromptTemplate
        • Example Selectors
      • Chat Models
      • LLMs
      • Output parsers
    • Retrieval,数据检索
      • Document loaders,文档加载
      • Document transformers,文档转化
      • Text embedding models,文本嵌入模型
      • Vector Stores,向量存储器
      • Retrievers,检索器
      • Indexing,索引
    • Agents,代理
      • Tools, Toolkits
    • Memory,内存,
      • Chat Message,聊天记录
  • LangChain应用架构

  • LangChain应用方向
    • RAG(Retrieval Augmented Generation,检索增强生成),基于LangChain+检索来实现内容生成的应用技术
      • RAG Search
      • 企业知识库
      • 垂直行业信息咨询
      • 智能聊天机器人(客服)
      • 摘要
    • Agents,reasoning engines 推理引擎,基于 LLMs 的理解任务、拆解任务、执行任务的集合,换一个理解就是基于大模型的自动化,核心点在于:1. 通过大模型来理解任务、拆分任务和执行任务的方式,把大模型作为该目标的“打工人”;2. 可以通过执行器(Executor)反复调用工具(Tool)API完成任务目标,也就是为“打工人”提供生产资料
      • 角色扮演:法律助手、订票助手、行业专家
      • 数据处理:数据整理、分析、报表制作、报告制作、告警
      • 编程、程序制作、网站开发,测试、调试、自动修复bug
      • 电影制作
      • 行业调研、商业决策
    • 本质上,RAG其实是Agents的一种简化特例,即Agents的理解、拆解部分可按照RAG的架构实现
  • LangChain有哪些应用产品
    • AutoGPT
    • BabyAGI

2023-12-17 664

为价值买单,打赏一杯咖啡

本文价值6.64RMB