Skip to main content

Posts

Showing posts from May, 2023

LangChain概念

 概念 这些是开发LLM应用程序时常用的概念和术语。它包含对首次介绍该概念的外部论文或资料的参考,以及LangChain中使用该概念的地方。 思想之链 思维链(CoT)是一种提示技术,用于鼓励模型产生一系列的中间推理步骤。诱导这种行为的一个不太正式的方法是在提示中加入 "让我们一步步思考"。 思考链论文 循序渐进的文件 Chain-of-Thought Paper 行动计划的产生 Step-by-Step Paper 行动计划生成是一种提示技术,它使用语言模型来生成要采取的行动。然后,这些行动的结果可以反馈到语言模型中,生成后续的行动。 WebGPT论文 WebGPT Paper SayCan论文 SayCan Paper 语音提示技术(ReAct是一种提示技术,它将思维链提示与行动计划的生成相结合。这诱导模型思考要采取什么行动,然后采取。 论文 Paper LangChain例子 LangChain Example 自问自答 Self-ask是一种建立在思维链提示之上的提示方法。在这种方法中,模型明确地向自己提出后续问题,然后由外部搜索引擎来回答。 论文 Paper LangChain实例 LangChain Example 提示链Prompt Chaining 提示链(Prompt Chaining)是将多个LLM调用结合起来,将一个步骤的输出作为下一个步骤的输入。 论文PromptChainer PromptChainer Paper 语言模型级联 Language Model Cascades ICE入门书 ICE Primer Book 苏格拉底模型 Socratic Models 记忆代理 记忆代理是鼓励LLM以某种方式回应,将讨论框定在模型所知道的、会导致该类型回应的背景中。例如,作为一个学生和一个老师之间的对话。 论文 Paper 自我一致性 自我一致性是一种解码策略,它对一系列不同的推理路径进行采样,然后选择最一致的答案。当与思维链提示相结合时最为有效。 论文 Paper 启发式 启蒙也被称为第一人称教学。它是通过在提示中包括模型反应的开始来鼓励模型以某种方式思考。 例如 Example MemPrompt MemPrompt保持对错误和用户反馈的记忆,并利用它们来防止错误的重复发生。 论文 Paper

LangChain 快速入门指南

 快速入门指南 本教程为您提供了关于用LangChain构建端到端语言模型应用的快速指南。 安装 要开始使用,请用以下命令安装LangChain: pip install langchain # 或 conda install langchain -c conda-forge 环境设置 使用LangChain通常需要与一个或多个模型提供者、数据存储、api等进行整合。 在这个例子中,我们将使用OpenAI的API,所以我们首先需要安装他们的SDK: pip install openai 然后我们需要在终端设置环境变量。 export OPENAI_API_KEY="..." 另外,你也可以在Jupyter笔记本(或Python脚本)中完成这项工作: 输入 os os.environ["OPENAI_API_KEY"] = "..." 如果你想动态地设置API密钥,你可以在启动OpenAI类时使用openai_api_key参数--例如,每个用户的API密钥。 from langchain.llms import OpenAI llm = OpenAI(openai_api_key="OPENAI_API_KEY") 构建一个语言模型应用程序: LLMs 现在我们已经安装了LangChain并设置了环境,我们可以开始构建我们的语言模型应用程序。 LangChain提供了许多模块,可用于构建语言模型应用程序。模块可以组合起来创建更复杂的应用,也可以单独用于简单的应用。 LLMs: 从语言模型中获取预测结果 LangChain最基本的构建模块是在一些输入上调用一个LLM。让我们通过一个简单的例子来了解如何做到这一点。为此,让我们假设我们正在建立一个服务,根据公司的生产情况来生成一个公司名称。 为了做到这一点,我们首先需要导入LLM包装器。 from langchain.llms import OpenAI 然后我们可以用任何参数来初始化包装器。在这个例子中,我们可能想让输出更加随机,所以我们将用一个高温度来初始化它。 llm = OpenAI(temperature=0.9) 我们现在可以在一些输入上调用它 text = "对于一家生产彩色袜子的公司来说,什么会是一个好的公司名称?...