Skip to main content

LangChain概念

 概念

这些是开发LLM应用程序时常用的概念和术语。它包含对首次介绍该概念的外部论文或资料的参考，以及LangChain中使用该概念的地方。
思想之链

思维链（CoT）是一种提示技术，用于鼓励模型产生一系列的中间推理步骤。诱导这种行为的一个不太正式的方法是在提示中加入 "让我们一步步思考"。
思考链论文
循序渐进的文件Chain-of-Thought Paper
行动计划的产生Step-by-Step Paper

行动计划生成是一种提示技术，它使用语言模型来生成要采取的行动。然后，这些行动的结果可以反馈到语言模型中，生成后续的行动。
WebGPT论文WebGPT Paper
SayCan论文SayCan Paper

语音提示技术（ReAct是一种提示技术，它将思维链提示与行动计划的生成相结合。这诱导模型思考要采取什么行动，然后采取。
论文Paper
LangChain例子LangChain Example

自问自答
Self-ask是一种建立在思维链提示之上的提示方法。在这种方法中，模型明确地向自己提出后续问题，然后由外部搜索引擎来回答。
论文Paper
LangChain实例LangChain Example

提示链Prompt Chaining
提示链（Prompt Chaining）是将多个LLM调用结合起来，将一个步骤的输出作为下一个步骤的输入。
论文PromptChainerPromptChainer Paper
语言模型级联Language Model Cascades
ICE入门书ICE Primer Book
苏格拉底模型Socratic Models

记忆代理
记忆代理是鼓励LLM以某种方式回应，将讨论框定在模型所知道的、会导致该类型回应的背景中。例如，作为一个学生和一个老师之间的对话。
论文Paper

自我一致性
自我一致性是一种解码策略，它对一系列不同的推理路径进行采样，然后选择最一致的答案。当与思维链提示相结合时最为有效。
论文Paper

启发式
启蒙也被称为第一人称教学。它是通过在提示中包括模型反应的开始来鼓励模型以某种方式思考。
例如Example

MemPrompt
MemPrompt保持对错误和用户反馈的记忆，并利用它们来防止错误的重复发生。
论文Paper

Comments

Post a Comment

Popular posts from this blog

Think in 2B SaaS

这数年2B SaaS创业经历，让我自己从一个对2B SaaS有着盲目疯狂热情的人，变的逐渐趋于冷静。如何推动建立一个健康的SaaS产品和公司，成了我特别想去思考和解决的问题。 这几年，个人和公司一直都是在野蛮生长，销售驱动的模型下，产品，销售，交付，客户成功都在疲于奔命完成财务业绩。在没有坚持跑出一套聚焦于SaaS领域，可以合力的运作体系下，争执和冲突便成了家常便饭。 销售往往因产品没有某个功能，吐槽产品不给力。因为研发不能按时做出一个客户要的功能，吐槽产品无能，因为找不到客户，所以开始盯着老客户的增购业绩，盯着传统实施项目规模带来的业绩收益。 交付因为销售的过度承诺，卖出产品没有的功能，或者实施过程中细节点产品不支持的能力，吐槽销售，吐槽研发，实施过程变得举步维艰。 CS因为交付质量，产品功能，系统服务的稳定性，导致客户关系紧张，出问题后花费大量时间灭火。或者处理因为bug带来的系统数据不一致的问题。在发生了集成对接的情况下，甚至要协调下游各个系统修复数据，带来的服务成本的增长。增购也就自然而然变得困难。 产研觉得产品功能自己都无法进行规划管理，总是被动的被销售和交付过程中客户的紧急需求干扰，仓促设计的结果就是应用架构设计上的疏忽，开发的bug，业务场景的缺失。 上述的过程，可能很多初始的SaaS创业团队都会碰到，特别是2B领域的。协同的不好，矛盾冲突屡屡发生，不产生合力的情况下，为了维持高业绩增长的要求，内部的负担愈发严重，跑的越来越慢，整体的服务质量情况却没有一个明显的提升。由此引发的各个职能的一线的员工的工作感受也越来越差。推诿，委屈，困惑，气忿等负面情绪也与日俱增。 因此，如何科学的构建一个可以上下协同的组织，如何管理需求，如何管理迭代，如何找到目标客户，如何快速的实施落地，如何更好的保持客户粘性，给客户带来持续不断的新鲜感，配合客户业务的发展需要，就需要进行一套科学的管理办法。无序和杂乱只会让增长越来越缓慢。
Post a Comment
Read more

MAC Homebrew安装了zookeeper 但是stop时报错

执行下面的命令的时候报错，找不到对应路径下的pid文件。 zkserver stop /usr/bin/java ZooKeeper JMX enabled by default Using config: /usr/local/etc/zookeeper/zoo.cfg Stopping zookeeper ... no zookeeper to stop (could not find file /usr/local/var/run/zookeeper/data/zookeeper_server.pid) 查了网上很多地方，很多人说是data路径中的空格问题，但是查了配置文件发现并不是。 错误信息里面说是pid文件找不到路径，所以，怀疑是读写权限或者是别的什么异常原因导致当时pid文件没有生成。 试着用sudo权限重新执行 sudo zkserver restart Password: /usr/bin/java ZooKeeper JMX enabled by default Using config: /usr/local/etc/zookeeper/zoo.cfg /usr/bin/java ZooKeeper JMX enabled by default Using config: /usr/local/etc/zookeeper/zoo.cfg Stopping zookeeper ... no zookeeper to stop (could not find file /usr/local/var/run/zookeeper/data/zookeeper_server.pid) /usr/bin/java ZooKeeper JMX enabled by default 结果在目录下找到了对应的pid文件。 查看pid文件内容，发现就是一个进程id。这时候考虑修改pid文件的内容，把当前停不下来的进程编号写进去。 然后重新执行了zkserver stop命令。 sudo zkserver stop /usr/bin/java ZooKeeper JMX enabled by default Using config: /usr/local/etc/zookeeper/zoo.cfg Stopping zookeeper ... STOPPED 搞定...
Post a Comment
Read more

FAISS Vector DB 学习笔记（一）

 1. 安装Faiss： 按照Faiss官方资源库提供的安装说明，确保你有必要的依赖和兼容的硬件（如果使用GPU加速）。 2. 2.准备好你的数据： Faiss使用密集向量工作，所以确保你的数据以浮点数组或矩阵的形式表示，其中每一行对应一个向量。确保你的向量的尺寸是一致的。 3. 导入必要的模块： 在你的Python脚本中，导入所需的Faiss模块： ``python import faiss import numpy as np ``` 4. 创建一个索引： 根据你的需要，选择适当的索引类型。下面是一个创建IndexFlatL2索引的例子： ```python d = 128  # Dimension of your vectors index = faiss.IndexFlatL2(d)  # Initialize the index ``` 你可以探索其他的索引类型，比如IndexIVFFlat或IndexHNSW，这取决于你愿意做出的折衷。 5. 为索引添加向量： 一旦你初始化了你的索引，使用`add'方法将你的向量添加到它里面。传入一个NumPy数组或一个兼容的数据结构： ``python vectors = np.random.random((1000, d)).astype('float32')  # Example vectors index.add(vectors)  # Add the vectors to the index ``` 6. 进行相似性搜索： 要为一个查询向量找到最近的邻居，可以使用`search`方法。传入查询向量和需要检索的近邻数量： ``python k = 5  # Number of nearest neighbors to retrieve query_vector = np.random.random((1, d)).astype('float32')  # Example query vector D, I = index.search(query_vector, k)  # Perform the search ``` 返回的`D`数组包含与最近的邻居的距离，`I`数组包含它们在原始数据集中的相应索引。 7. 自定义和优化： Faiss...
Post a Comment
Read more