Prompt提示工程上手指南:基础原理及实践(五)-思维树 (ToT)策略下的Prompt

前言

此篇文章已经是本系列的第五篇文章,之前我们已经将检索增强生成(RAG)策略,逐渐我们掌握的知识和技术都在不断提高,对于Prompt的技巧策略也不能只局限于局部运用而要适应LLM大模型的整体框架去进行改进休整。较为主流的LLM模型框架设计基于链式思考(CoT)、思维树 (ToT)和检索增强生成 (RAG)这三大框架我们现在要开始了解学习思维树 (ToT)。

如何建立一个[解决通用问题的语言模型]?如何能够让LLM能够深思熟虑的解决问题?我们人类通过搜索一个组合式问题空间来解决问题。这可以看作一棵树,其中节点表示部分解,分支对应修改它们的运算符。选择哪个分支是由启发式决定的,这些启发式帮助导航问题空间并引导问题解决者朝着解决方案的方向前进。正因如此思维树(ToT)可以被视为一种进化版的提示(prompt)策略,它扩展了这一概念并引入了更加复杂的思维结构,以更好地引导模型生成准确、连贯的输出。

博主承诺每篇文章我都会尽可能将简化涉及到垂直领域的专业知识,转化为大众小白可以读懂易于理解的知识,将繁杂的程序创建步骤逐个拆解,以逐步递进的方式由难转易逐渐掌握并实践,欢迎各位学习者关注博主,博主将不断创作技术实用前沿文章。

何为思维树 (ToT)?如何让AI"深思熟虑"?

想象一下你正在驾驶一辆汽车,没有地图的情况下如何进入正确的路口,找到最佳的路径?在这样的场景下,思维树就像是一张详细的道路地图。在这张地图上,不同的道路代表着不同的语义信息,而交叉口和路标则代表着不同的思维节点。当你提出一个问题或者输入一个请求时,就相当于输入了目的地,而思维树会根据你的输入在地图上找到最佳的路径,指引你达到目的地。
图片.png
与传统的导航系统相比,思维树更加智能和灵活。它不仅考虑了最短的路径,还会根据你的需求和语境来调整路线。比如,当你提出一个问题时,思维树会考虑到问题的不同方面,找到与之相关的多条路径,并提供多样化的答案。而当你改变了问题的表述或者提供了更多的信息时,思维树会相应地调整路线,提供更加准确的答案。思维树就像是一位智慧的导航系统,它能够帮助我们更好地理解和生成自然语言,为我们提供准确、连贯的信息输出。
ToT框架的核心概念是以树状结构来表示语义信息。这种结构不仅仅是一种数据形式,更是一种抽象概念,它使得模型可以更好地理解输入序列中的语义信息,并在生成输出时参考这些信息。这种结构的设计使得ToT框架能够更好地模拟人类的思维过程,从而生成更加自然、准确的文本。可以算得上是我们上篇文章介绍到的CoT的进阶版,ToT的具体回答框架包括以下四个问题:

  1. 举一反三,列举多路径通罗马
  2. 分布评估,集成方案,选择最优
  3. 启发性地评估状态,前后枚举追溯,全局最优
  4. 集成开搜,确定路径

图片.png

图 1:示意图展示了使用 LLMs 解决问题的各种方法。每个矩形框代表一个思考过程,它是一个连贯的语言序列,作为解决问题的中间步骤。

大家感兴趣不妨click :https://github.com/kyegomez/tree-of-thoughts,下面我们来深度理解该框架是如何将模型推理显著提高70%,又是如何使用到我们的AI-Prompt的?

ToT核心框架

ToT核心框架在论文里面讲解十分深入,为了让更多人明白,我们这里不会涉及到较为复杂的计算公式。有能力感兴趣的朋友可以自行阅览paper:https://arxiv.org/pdf/2305.10601.pdf。我们首先继续复习一下之前的CoT算法:

CoT方法中,模型的响应被指示逐步进行并呈现涉及的所有步骤。这样做减少了结果不准确的可能性,并使评估模型响应变得更容易。通过逐步展示处理过程,模型不仅提供了最终的答案或解决方案,而且还展示了达到这个答案的具体步骤。这种方法对于教育、解释复杂问题或在需要详细说明决策过程的情境中尤其有用。它允许用户跟踪模型的思考过程,理解模型是如何从问题描述到达最终结论的。

图片.png

ToT(Tree of Thoughts)被视为CoT(Chain of Thoughts)的升级版,主要是因为它在表示和利用语义信息方面更加强大和灵活。ToT采用树状结构来表示语义信息,而不是像CoT那样简单地采用线性链式结构。这意味着ToT可以更好地捕捉和表示语义之间的复杂关系,使得模型能够更加全面地理解和生成自然语言。由于树状结构的引入,ToT能够同时考虑到多个可能的思维路径,而不局限于单一的线性链式结构。它可以利用树状结构来对语义进行分层和组织,能够根据不同的语境和需求生成多样化的输出。

在ToT框架中,每个节点代表一个语义单元,例如一个概念、一个主题或者一个关键词。这些节点之间通过边连接,形成了一种复杂的关联网络。当模型接收到一个输入序列时,它会根据这个序列在ToT中寻找最相关的节点,并基于这些节点生成输出。

图片.png

ToT框架的优势在于它能够同时考虑到多个可能的思维路径,并能够根据输入序列中的不同语义信息来动态调整生成输出的策略。这种能力使得ToT框架在生成文本时更加灵活、多样化,能够适应不同的语境和需求。

ToT框架推理流程

假设我们有一个基于思维树(ToT)的文本生成模型,我们想要使用这个模型来回答一个关于自然界的问题:“为什么天空是蓝色的?”

  1. 输入问题:首先,我们将问题“为什么天空是蓝色的?”输入到思维树模型中。
  2. 思维树搜索:思维树模型开始搜索树状结构,寻找与问题相关的节点。这些节点可以是关于光学、大气科学、颜色原理等方面的概念。
  3. 多路径选择:思维树发现了与问题相关的多个思维路径。例如,它可能找到与大气散射相关的节点、光谱原理相关的节点、以及颜色感知机制相关的节点。
  4. 整合信息:模型将从不同路径中获取的信息整合起来,形成一个综合的理解。它会考虑到大气中气体分子对太阳光的散射过程,以及不同波长的光在大气中的传播和吸收情况。
  5. 生成答案:基于综合的理解,思维树模型生成了一个关于天空为什么是蓝色的解释。这个解释可能会涉及到太阳光中不同波长的光被散射后,蓝色光的波长相对较短,更容易被大气中的气体分子散射到我们的视线中,从而导致天空呈现出蓝色。

图片.png

以上就为整个ToT框架对一个Prompt的拆解过程。ToT框架通常由多个子模型组成,这些子模型协同工作,以实现对输入序列的语义理解和生成输出的功能。

图片.png

  1. 语义理解:ToT框架首先对输入的文本进行语义理解。这个过程涉及到将自然语言转换为计算机能够理解的形式。通常,ToT框架会使用一系列预训练的语义表示模型,如BERT、GPT等,来对输入文本进行编码和表示,从而捕捉到输入文本中的语义信息。
  2. 构建思维树:基于对输入文本的语义表示,ToT框架会构建一个思维树,以表示文本中的不同思维路径和关系。这个过程通常涉及到树状结构的设计和构建算法。思维树中的每个节点代表一个语义单元,如概念、主题或关键词,而边表示节点之间的关联关系。

图片.png

  1. 路径选择:在生成输出文本时,ToT框架会根据输入文本和构建的思维树选择合适的思维路径。这个过程通常涉及到路径搜索算法,以确定最相关和最合适的思维路径。ToT框架可以考虑到多个可能的思维路径,并根据输入文本的不同语义信息动态调整路径选择策略。
  2. 整合信息:选择了合适的思维路径后,ToT框架会从不同路径中获取信息,并将其整合起来,形成一个综合的理解。这个过程涉及到信息融合和加权的算法,以确保生成的输出文本能够考虑到多个因素和可能性。
  3. 生成输出:最后,ToT框架根据整合的信息生成输出文本。这个过程涉及到文本生成模型和算法,通常采用生成式模型,如GPT,来生成连贯、自然的文本。ToT框架会根据整合的信息和选择的思维路径来指导文本生成过程,以生成准确、多样化的输出。

图片.png
图片.png

研究者在 24 点和 5x5 迷你填词游戏上进行了实验,结果表明了 AoT 方法的优越性 —— 其性能表现由于单 prompt 方法(如标准方法、CoT、CoT-SC),同时也能媲美利用外部机制的方法(如 ToT)。

图片.png
可以明显看出,结合了 CoT/CoT-SC 的标准 prompt 设计方法明显落后于通过 LLM 使用的树搜索方法。

图片.png
AoT 在迷你填词任务上的有效性,其填词成功率超过之前使用各种 prompt 技术的方法。但是,它比 ToT 差。一个重要的观察是 ToT 使用的查询量巨大,超过了 AoT 百倍以上。另一个让 AoT 逊于 ToT 的因素是算法示例中固有的回溯能力没有充分得到激活。如果能完全解锁该能力,会导致生成阶段显著延长。相比之下,ToT 的优势在于可以利用外部记忆来进行回溯。

图片.png

ToT部署使用

现在部署ToT是比较方便的,前提确保你可以有自己训练好的大模型,或者是大模型的API,那么我们直接通过pip就可以部署:

pip install tree-of-thoughts-llm

也可以直接通过source进行clone安装:

git clone https://github.com/princeton-nlp/tree-of-thought-llm
cd tree-of-thought-llm
pip install -r requirements.txt
pip install -e .  # install `tot` package

可以通过Demo进行测试,查看是否安装完成:

import argparse
from tot.methods.bfs import solve
from tot.tasks.game24 import Game24Task
​
args = argparse.Namespace(backend='gpt-4', temperature=0.7, task='game24', naive_run=False, prompt_sample=None, method_generate='propose', method_evaluate='value', method_select='greedy', n_generate_sample=1, n_evaluate_sample=3, n_select_sample=5)
​
task = Game24Task()
ys, infos = solve(args, task, 900)
print(ys[0])

如果成功的话就会输出:

10 - 4 = 6 (left: 5 6 6)
5 * 6 = 30 (left: 6 30)
30 - 6 = 24 (left: 24)
Answer: (5 * (10 - 4)) - 6 = 24

如果是想要配套OpenAI API开发使用的话,可以按照我这个代码格式:

import os
from tree_of_thoughts import ToTAgent, MonteCarloSearch
from dotenv import load_dotenv
from swarms import Agent, OpenAIChat
​
load_dotenv()# Get the API key from the environment
api_key = os.environ.get("OPENAI_API_KEY")# Initialize an agent from swarms
agent = Agent(
    agent_name="tree_of_thoughts",
    agent_description="This agent uses the tree_of_thoughts library to generate thoughts.",
    system_prompt=None,
    llm = OpenAIChat(),   
)# Initialize the ToTAgent class with the API key
model = ToTAgent(
    agent,
    strategy="cot",
    evaluation_strategy="value",
    enable_react=True,
    k=3,
)
​
​
# Initialize the MonteCarloSearch class with the model
tree_of_thoughts = MonteCarloSearch(model)# Define the initial prompt
initial_prompt = """
​
​
Input: 2 8 8 14
Possible next steps:
2 + 8 = 10 (left: 8 10 14)
8 / 2 = 4 (left: 4 8 14)
14 + 2 = 16 (left: 8 8 16)
2 * 8 = 16 (left: 8 14 16)
8 - 2 = 6 (left: 6 8 14)
14 - 8 = 6 (left: 2 6 8)
14 /  2 = 7 (left: 7 8 8)
14 - 2 = 12 (left: 8 8 12)
Input: use 4 numbers and basic arithmetic operations (+-*/) to obtain 24 in 1 equation
Possible next steps:
"""# Define the number of thoughts to generate
num_thoughts = 1
max_steps = 3
max_states = 4
pruning_threshold = 0.5
​
​
# Generate the thoughts
solution = tree_of_thoughts.solve(
    initial_prompt=initial_prompt,
    num_thoughts=num_thoughts,
    max_steps=max_steps,
    max_states=max_states,
    pruning_threshold=pruning_threshold,
    # sleep_time=sleep_time
)print(f"Solution: {solution}")
​
​

当然大家根据自己的实际场景调整即可。

总言

展望未来,随着人工智能技术的不断发展,我们可以预见到更多类似ToT框架的新型AI技术将不断涌现。这些新技术将更加强大、智能,能够更好地理解和处理自然语言,为人们的生活和工作带来更多便利和可能性。ToT框架作为一种创新的AI技术,为我们提供了一种全新的思路和方法来处理自然语言。期待着未来AI技术的不断进步和发展,为我们的生活和工作带来更多的惊喜和改变。

点关注,防走丢,如有纰漏之处,请留言指教,非常感谢

以上就是本期全部内容。我是fanstuck ,有问题大家随时留言讨论 ,我们下期见。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:/a/528411.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

Ubuntu16.04更新python3版本

对于初次接触更新ubuntu python版本的开发者,请注意以下两点(熟悉系统者请随意): 不要删除软链接!不要删除软链接!不要删除软链接! 不要删除原python版本!不要删除原python版本&am…

基于SSM+Jsp+Mysql的高校毕业设计管理系统

开发语言:Java框架:ssm技术:JSPJDK版本:JDK1.8服务器:tomcat7数据库:mysql 5.7(一定要5.7版本)数据库工具:Navicat11开发软件:eclipse/myeclipse/ideaMaven包…

MySQL-10. 存储引擎、视图、mysql管理

10.1 存储引擎 存储引擎说白了就是如何存储数据、如何为存储的数据建立索引和如何更新、查询数据等技术的实现方法。因为在关系数据库中数据的存储是以表的形式存储的,所以存储引擎也可以称为表类型(即存储和操作此表的类型)。 存储引擎(Stor…

关于GNSS硬件延迟初步学习,电离层提取

1、卫星端偏差分为频间和频内偏差(inter or intra frequency),下面以GPS的C1C和C2W组合为例分析对PPP解算的影响: 如果不改正卫星端的inter-frequency(即:C1C-C1W)偏差(因为每颗卫星…

基于springboot实现校园资料分享平台系统项目【项目源码+论文说明】

基于springboot实现校园资料分享平台系统演示 摘要 随着信息互联网购物的飞速发展,国内放开了自媒体的政策,一般企业都开始开发属于自己内容分发平台的网站。本文介绍了校园资料分享平台的开发全过程。通过分析企业对于校园资料分享平台的需求&#xff…

SSM项目转Springboot项目

SSM项目转Springboot项目 由于几年前写的一个ssm项目想转成springboot项目,所以今天倒腾了一下。 最近有人需要毕业设计转换一下,所以我有时间的话可以有偿帮忙转换,需要的私信我或+v:Arousala_ 首先创建一个新的spr…

快速恢复1对共阴极二极管ER1006F 特点与应用,你必须看的好文章~

ER1006F是一款二极管,ER1006F是款正向电流为 10A,反向电压为600V的二极管。它的正向压降为1.05V,反向电流为10μA。这些参数使得ER1006F在很多应用中都非常适用。 首先,正向电流是指电流从二极管的阳极流向阴极的电流。ER1006F的正…

操作系统知识

根据希赛相关视频课程汇总整理而成,个人笔记,仅供参考。 操作系统概述 *进程管理 进程:程序在一个数据集合上运行的过程,它是系统进行资源分配和调度的一个独立单位。由程序块、进程控制块(PCB)和数据块三…

龙蜥社区「人人都可以参与开源」——参与心得

一、初识龙蜥 参加龙蜥社区的体验,犹如走进了一个满载知识宝藏的科技殿堂,它不仅集结了国内外对开源操作系统技术抱有热忱的高手,更是一个不断孕育创新理念与实践成果的孵化器。在这里,每一刻都充满启迪,每一步都伴随…

AI创作出来的图,有没有版权?总结了三派观点,你觉得呢?

关于这个问题分成了三派,老铁们可以忽略图片,认真思考版权这个问题。 一、无版权派 因为按照我国目前对版权的定义著作权:是指自然人、法人或者其他组织对文学、艺术和科学作品享有的财产权利和精神权利的总称。那么AI既不属于自然人也不属…

2月珍珠饰品电商数据分析:价格翻倍,销售额暴增140%!

珍珠饰品这两年受到国内消费者的追捧,这股热潮随着电商直播的快速发展延续至今。与此同时,年轻人群体正成为珍珠消费的主力军,他们在各大直播间频繁亮相,以实际购买力展现了对珍珠饰品的热爱与追捧。 今年2月份,珍珠饰…

从入门到精通:系统性学习Linux虚拟网络设备的全面指南

学习一个从未接触过的Linux虚拟网络设备是一个分阶段的过程,从最初的认识到最后的精通,需要系统性和逐步深入的学习策略。以下是一个全面的指南📚,旨在帮助初学者通过多角度分析🔍,一步一步地学习和掌握新的…

GlusterFS分布式文件系统

一、GlusterFS简介 GlusterFS 是一个开源的分布式文件系统。由存储服务器、客户端以及NFS/Samba存储网关(可选,根据需要选择使用)组成。没有元数据服务器组件,这有助于提升整个系统的性能、可靠性和稳定性 二、GlusterFS特点 2.1 扩展性和高性能 Glu…

【随笔】Git 基础篇 -- 分支与合并 git merge(九)

💌 所属专栏:【Git】 😀 作  者:我是夜阑的狗🐶 🚀 个人简介:一个正在努力学技术的CV工程师,专注基础和实战分享 ,欢迎咨询! 💖 欢迎大…

什么是 Python 解释器

我们编写程序代码,就是要 让计算机 按照我们的想法 去做事 。 程序代码是用编程语言编写的,而 Python 语言, 是计算机硬件(主要是 CPU)听不懂的语言。 计算机 CPU 只能听懂 机器指令。 所以,我们需要一个…

(学习日记)2024.04.08:UCOSIII第三十六节:事件

写在前面: 由于时间的不足与学习的碎片化,写博客变得有些奢侈。 但是对于记录学习(忘了以后能快速复习)的渴望一天天变得强烈。 既然如此 不如以天为单位,以时间为顺序,仅仅将博客当做一个知识学习的目录&a…

本地MinIO存储服务通过Java程序结合cpolar实现远程连接上传文件

文章目录 前言1. 创建Buckets和Access Keys2. Linux 安装Cpolar3. 创建连接MinIO服务公网地址4. 远程调用MinIO服务小结5. 固定连接TCP公网地址6. 固定地址连接测试 前言 MinIO是一款高性能、分布式的对象存储系统,它可以100%的运行在标准硬件上,即X86等…

Linux shell编程学习笔记46:awk命令的由来、功能、格式、选项说明、版权、版本

0 前言 在编写Linux Shell脚本的过程中,我们经常要对Linux命令执行的结果进行分析和提取,Linux也在文本分析和提取这方面提供了不少的命令。比如我们之前研究过的cut命令。 Linux shell编程学习笔记43:cut命令https://blog.csdn.net/Purple…

基于R语言的影视评分影响因素实证分析(二)

在某网站抓取了百条数据,试图通过对这些数据的分析,找出电影受欢迎的因素。本案例共获取100条数据。数据详情如下: 1.数据处理及变量描述 首先对数据进行筛选处理,将不需要或者缺失变量进行剔除。 电影类型只保留第一个选项,即《唐人街探案2》的电影类型有喜剧,动作,犯罪…

transformer上手(2) —— 注意力机制

自从 2017 年 Google 发布《Attention is All You Need》之后,各种基于 Transformer 的模型和方法层出不穷。尤其是 2018 年,OpenAI 发布的 GPT 和 Google 发布的 BERT 模型在几乎所有 NLP 任务上都取得了远超先前最强基准的性能,将 Transfor…