AI大模型探索之路-实战篇6： Function Calling技术调研之详细流程剖析

系列篇章💥

AI大模型探索之路-实战篇4：DB-GPT数据应用开发框架调研实践
AI大模型探索之路-实战篇5： Open Interpreter开放代码解释器调研实践

目录

  • 系列篇章💥
  • 一、前言
  • 二、Function Calling详细流程剖析
    • 1、创建OpenAI客户端
    • 2、定义函数
    • 3、创建数据参数对象
    • 4、对象转化
    • 5、函数调用测试
    • 6、定义工具函数
    • 7、发送OpenAI 对话请求测试
    • 8、指定工具函数进行调用
    • 9、存储返回的结果信息
    • 10、查看函数名称和参数
    • 11、调用工具函数
    • 12、将第一次返回的结果合并到消息列表
    • 13、将functiona的信息合并到消息列表
    • 14、第二次OpenAI API调用
  • 三、Function Calling完整样例
  • 四、结语

一、前言

继之前对DB-GPT和Open Interpreter技术的深入调研，本文将转向对OpenAI的Function Calling技术进行回顾与探讨。此次分析的目的旨在为即将到来的智能数据分析平台的顺利落地做好充分的技术储备。通过对Function Calling技术的深度剖析，我们希望建立更加坚实的理论基础，并在此基础上探索其在实际应用中的潜在价值和实施路径。这将不仅有助于我们更好地理解语言模型如何与程序代码交互，而且为未来的开发工作提供指导和灵感。

二、Function Calling详细流程剖析

本章节旨在深入剖析从OpenAI客户端的创建到数据参数的定义，再到函数的定义、调用以及最终结果的整理输出的完整过程。这一详尽的解析将帮助我们深入理解Function Calling技术的每一个细节和实际应用中的操作流程。

1、创建OpenAI客户端

首先，我们需要创建一个有效的OpenAI客户端。这包括获取必要的API密钥和配置环境参数。通过这个过程，我们可以确保在后续步骤中顺畅地与OpenAI的服务器进行通信。

import openai
import os
import numpy as np
import pandas as pd
import json
import io
from openai import OpenAI
import inspect

# 从环境变量中获取OpenAI API密钥
openai.api_key = os.getenv("OPENAI_API_KEY")

# 使用API密钥创建OpenAI客户端实例
client = OpenAI(api_key=openai.api_key)

2、定义函数

定义了一个名为sunwukong_function的函数，该函数接受一个字符串类型的数据集作为参数，并将其转换为pandas DataFrame对象。然后，它将DataFrame中的每个元素乘以10，并将结果转换为JSON格式的字符串返回。

def sunwukong_function(data):
    """
    孙悟空算法函数，该函数定义了数据集计算过程
    :param data: 必要参数，表示带入计算的数据表，用字符串进行表示
    :return：sunwukong_function函数计算后的结果，返回结果为表示为JSON格式的Dataframe类型对象
    """
    data = io.StringIO(data)
    df_new = pd.read_csv(data, sep='\s+', index_col=0)
    res = df_new * 10
    return json.dumps(res.to_string())

3、创建数据参数对象

接下来，我们需要定义数据参数。这些参数将作为输入传递给Function Call函数，以生成相应的输出结果。在本例中，我们将使用一个简单的数学计算任务作为示例。

#创建了一个名为df的DataFrame对象，其中包含两列数据x1和x2。
df = pd.DataFrame({'x1':[1, 2], 'x2':[3, 4]})
df

输出
在这里插入图片描述

4、对象转化

#将df对象转换为字符串类型。

df_str = df.to_string()
df_str

输出
在这里插入图片描述

5、函数调用测试

#将df字符串传递给sunwukong_function函数进行计算。最后，它将计算结果打印出来。

result_json=sunwukong_function(df_str)
result_json

在这里插入图片描述

6、定义工具函数

# 定义一个工具函数
sunwukong={
        "type": "function",
        "function": {"name": "sunwukong_function",
                      "description": "用于执行孙悟空算法函数，定义了一种特殊的数据集计算过程",
                      "parameters": {"type": "object",
                                     "properties": {"data": {"type": "string",
                                                             "description": "执行孙悟空算法的数据集"},
                                                   },
                                     "required": ["data"],
                                    },
                     }
    }
# 放入工具列表
tools = [sunwukong]

7、发送OpenAI 对话请求测试

我们通过大模型的对话请求API进行确认，大模型是否能能正确找到对应的函数工具。

# 这段代码定义了一个名为messages的列表，其中包含两个字典对象。第一个字典对象表示系统角色，其内容为数据集data的描述信息；第二个字典对象表示用户角色，其内容为执行孙悟空算法的请求。
messages=[
    {"role": "system", "content": "数据集data：%s，数据集以字符串形式呈现" % df_str},
    {"role": "user", "content": "请在数据集data上执行孙悟空算法"}
]
# 使用OpenAI API中的chat.completions.create方法来生成响应。该方法接受两个参数：model和messages。model参数指定要使用的模型版本，这里使用的是gpt-3.5-turbo模型；messages参数是要发送给API的消息列表，这里传入的是前面定义的messages列表。

response =  client.chat.completions.create(
  model="gpt-3.5-turbo",
  messages=messages
)
# 从响应中提取出第一个选择的消息，并将其打印出来。这个消息应该是由API根据输入的数据集和请求生成的孙悟空算法的结果。
response.choices[0].message

输出：

ChatCompletionMessage(content='抱歉，我不清楚您指的“孙悟空算法”是什么意思。请问您能提供更多关于该算法的背景或者说明吗？这样我才能帮助您更好地实现您的目标。', role='assistant', function_call=None, tool_calls=None)

当前对话中没有设置工具函数，因此大模型并没有找到自定义的工具函数

8、指定工具函数进行调用

我们再次进行大模型API调用，这一次我们指定功能工具函数tools，设置为自动选择（tool_choice=“auto”,）让模型自己检查判断是否需要调用工具函数。

messages=[
    {"role": "system", "content": "数据集data：%s，数据集以字符串形式呈现" % df_str},
    {"role": "user", "content": "请在数据集data上执行孙悟空算法"}
]
# 重新初始化消息列表后，设置tools参数和tool_choice，让大模型自己选择是否使用工具
# 不会直接执行function_call函数。这段代码是调用OpenAI API的chat.completions.create方法，用于生成聊天机器人的回答。其中，model参数指定了使用的模型版本，messages参数传入了要发送给API的消息列表，tools参数传入了工具列表，tool_choice参数指定了选择工具的方式。
response = client.chat.completions.create(
        model="gpt-3.5-turbo",
        messages=messages,
        tools=tools,
        tool_choice="auto",  
    )
# 查看消息结果，返回内容为空，但是找到返回了工具函数
response.choices[0].message

输出：

ChatCompletionMessage(content=None, role='assistant', function_call=None, tool_calls=[ChatCompletionMessageToolCall(id='call_z16cI8SX4FkoW71SNV95hjIL', function=Function(arguments='{"data":"x1  x2\\n0   1   3\\n1   2   4"}', name='sunwukong_function'), type='function')])

从输出结果可以看到，工具配置生效，大模型已经找到了工具函数

9、存储返回的结果信息

将结果信息存储到first_response

# 打印出消息，可以看到消息中已经找到了函数sunwukong_function
first_response = response.choices[0].message
first_response

输出：

ChatCompletionMessage(content=None, role='assistant', function_call=None, tool_calls=[ChatCompletionMessageToolCall(id='call_z16cI8SX4FkoW71SNV95hjIL', function=Function(arguments='{"data":"x1  x2\\n0   1   3\\n1   2   4"}', name='sunwukong_function'), type='function')])

查看结果信息中的工具信息

response.choices[0].message.tool_calls

输出：

[ChatCompletionMessageToolCall(id='call_z16cI8SX4FkoW71SNV95hjIL', function=Function(arguments='{"data":"x1  x2\\n0   1   3\\n1   2   4"}', name='sunwukong_function'), type='function')]

10、查看函数名称和参数

将工具函数放入到字典中，再循环获取到工具列表中的每一个函数的名称，参数

#定义了一个名为available_tools的字典，其中包含了可用的工具函数
available_tools =  {
    "sunwukong_function": sunwukong_function,
}
#从API返回的回答中提取出工具调用信息，并遍历每个工具调用。对于每个工具调用，获取函数名、函数参数，并使用这些信息调用相应的工具函数。
tool_calls = response.choices[0].message.tool_calls
 
for tool_call in tool_calls:
    function_name = tool_call.function.name
    function_to_call = available_tools[function_name]
    function_args = json.loads(tool_call.function.arguments)
    function_response = function_to_call(**function_args)
 
# 打印出函数名、函数参数和函数响应。
print(function_name)
print(function_args)
print(function_response)

输出：
在这里插入图片描述

11、调用工具函数

#调用工具函数并获取其响应。它首先使用工具函数名和参数调用相应的工具函数，并将返回值存储在名为function_response的变量中。然后打印出这个响应
function_response = function_to_call(**function_args)
function_response

输出：
在这里插入图片描述

12、将第一次返回的结果合并到消息列表

# 追加第一次模型返回结果消息
messages.append(first_response)  
messages

输出：

[{'role': 'system',
  'content': '数据集data：   x1  x2\n0   1   3\n1   2   4，数据集以字符串形式呈现'},
 {'role': 'user', 'content': '请在数据集data上执行孙悟空算法'},
 ChatCompletionMessage(content=None, role='assistant', function_call=None, tool_calls=[ChatCompletionMessageToolCall(id='call_z16cI8SX4FkoW71SNV95hjIL', function=Function(arguments='{"data":"x1  x2\\n0   1   3\\n1   2   4"}', name='sunwukong_function'), type='function')])]

13、将functiona的信息合并到消息列表

# 追加function返回消息
messages.append(
        {
            "tool_call_id": tool_call.id,
            "role": "tool",
            "name": function_name,
            "content": function_response,
        }
)
messages

输出：

[{'role': 'system',
  'content': '数据集data：   x1  x2\n0   1   3\n1   2   4，数据集以字符串形式呈现'},
 {'role': 'user', 'content': '请在数据集data上执行孙悟空算法'},
 ChatCompletionMessage(content=None, role='assistant', function_call=None, tool_calls=[ChatCompletionMessageToolCall(id='call_z16cI8SX4FkoW71SNV95hjIL', function=Function(arguments='{"data":"x1  x2\\n0   1   3\\n1   2   4"}', name='sunwukong_function'), type='function')]),
 {'tool_call_id': 'call_z16cI8SX4FkoW71SNV95hjIL',
  'role': 'tool',
  'name': 'sunwukong_function',
  'content': '"   x1  x2\\n0  10  30\\n1  20  40"'}]

14、第二次OpenAI API调用

第二次调用大模型API，让大模型帮忙整理响应信息

# 再次调用，由大模型重新整理工具函数返回的结果信息（主要是将结果信息整理的更加方便可视化）
second_response = client.chat.completions.create(
    model="gpt-3.5-turbo",
    messages=messages,
)
 

print(second_response.choices[0].message.content)

在这里插入图片描述

三、Function Calling完整样例

完整的Function Calling函数使用代码如下

from openai import OpenAI
import json

openai.api_key = os.getenv("OPENAI_API_KEY")

client = OpenAI(api_key=openai.api_key)

# Example dummy function hard coded to return the same weather
# In production, this could be your backend API or an external API
def sunwukong_function(data):
    """
    孙悟空算法函数，该函数定义了数据集计算过程
    :param data: 必要参数，表示带入计算的数据表，用字符串进行表示
    :return：sunwukong_function函数计算后的结果，返回结果为表示为JSON格式的Dataframe类型对象
    """
    data = io.StringIO(data)
    df_new = pd.read_csv(data, sep='\s+', index_col=0)
    res = df_new['x1'] * 10
    return json.dumps(res.to_string())


df_str=pd.DataFrame({'x1':[1, 2], 'x2':[3, 4]}).to_string

def run_conversation():
    # 步骤1：将对话和可用函数发送给模型
    messages=[
    {"role": "system", "content": "数据集data：%s，数据集以字符串形式呈现" % df_str},
    {"role": "user", "content": "请在数据集data上执行孙悟空算法"}  
        ]
    tools = [
    {
        "type": "function",
        "function": {"name": "sunwukong_function",
                      "description": "用于执行孙悟空算法函数，定义了一种特殊的数据集计算过程",
                      "parameters": {"type": "object",
                                     "properties": {"data": {"type": "string",
                                                             "description": "执行孙悟空算法的数据集"},
                                                   },
                                     "required": ["data"],
                                    },
                     }
    }]

    response = client.chat.completions.create(
        model="gpt-3.5-turbo",
        messages=messages,
        tools=tools,
        tool_choice="auto",  # auto is default, but we'll be explicit
    )
    response_message = response.choices[0].message
    tool_calls = response_message.tool_calls
    # 步骤2：检查模型是否想要调用函数
    if tool_calls:
        # 步骤3：调用函数
        # 注意：JSON响应可能不总是有效的；确保处理错误
        available_functions = {
            "sunwukong_function": sunwukong_function,
        }  # 这个例子中只有一个函数，但您可以有多个函数
        messages.append(response_message)  # 将助手的回复扩展到对话中
        # 步骤4：将每个函数调用和函数响应的信息发送给模型
        for tool_call in tool_calls:
            function_name = tool_call.function.name
            function_to_call = available_functions[function_name]
            function_args = json.loads(tool_call.function.arguments)
            function_response = function_to_call(**function_args)
            messages.append(
                {
                    "tool_call_id": tool_call.id,
                    "role": "tool",
                    "name": function_name,
                    "content": function_response,
                }
            )  # 将函数响应扩展到对话中
        second_response = client.chat.completions.create(
            model="gpt-3.5-turbo",
            messages=messages,
        )  # 从模型获取新的响应，其中可以看到函数响应
        return second_response
result=run_conversation()
result.choices[0].message.content

输出：
在这里插入图片描述

# 使用StringIO将字符串转换为文件对象
df_str='\\n    x1\\n0  10\\n1  20\\n.'
data = io.StringIO(df_str)

# 使用read_csv()函数读取数据，并设置第一列为索引
df_new = pd.read_csv(data, sep='\s+', index_col=0)
df_new

输出：
在这里插入图片描述

四、结语

本文深入探讨了函数调用的全过程，详细阐述了其每一个细节步骤。在回顾函数调用的实践应用中，我们不仅加深了对其运作机制的理解，还体会到了其在编程实践中的强大功能和灵活性。通过逐步剖析与实际操作的结合，本文档旨在为读者提供一个全面而实用的指南，以促进对函数调用概念的掌握及其在实际编程中的应用。希望读者能够借此更好地利用函数调用，优化代码结构，提升开发效率。

在这里插入图片描述

🎯🔖更多专栏系列文章：AIGC-AI大模型探索之路

如果文章内容对您有所触动，别忘了点赞、⭐关注，收藏！加入我，让我们携手同行AI的探索之旅，一起开启智能时代的大门！

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：/a/641952.html

如若内容造成侵权/违法违规/事实不符，请联系我们进行投诉反馈qq邮箱809451989@qq.com，一经查实，立即删除！

相关文章

手机边听边充音频转接器双盲插系列：便捷充电，畅享音乐6500

手机边听边充音频转接器双盲插系列：便捷充电，畅享音乐6500

在快节奏的生活中，手机已经成为我们不可或缺的日常用品。无论是工作、学习还是娱乐，手机都扮演着重要角色。然而，当我们沉浸在音乐的海洋中时，手机电量不足的困扰却时常打断我们的美好体验。为了解决这一难题，手机边听…
阅读更多...
ESP32-C3模组上跑通OTA升级（8）

ESP32-C3模组上跑通OTA升级（8）

接前一篇文章：ESP32-C3模组上跑通OTA升级（7） 本文内容参考： 杂项系统 API - ESP32 - — ESP-IDF 编程指南 latest 文档 《ESP32-C3 物联网工程开发实战》 乐鑫科技 特此致谢！ 七、固件版本 将不同功能的固件标记为…
阅读更多...
好书推荐|MATLAB科技绘图与数据分析

好书推荐|MATLAB科技绘图与数据分析

提升你的数据洞察力，用于精确绘图和分析的高级MATLAB技术 MATLAB科技绘图与数据分析——jd 本书内容 《MATLAB科技绘图与数据分析》结合作者多年的数据分析与科研绘图经验，详细讲解MATLAB在科技图表制作与数据分析中的使用方法与技巧。全书分为3部分&a…
阅读更多...
ChatGPT可以开车吗？分享大型语言模型在自动驾驶方面的应用案例

ChatGPT可以开车吗？分享大型语言模型在自动驾驶方面的应用案例

自动驾驶边缘案例需要复杂的、类似人类的推理，远远超出传统的算法和人工智能模型。而大型语言模型正在致力实现这一目标。 人工智能技术如今正在快速发展和应用，人工智能模型也是如此。拥有100亿个参数的通用模型的性能正在碾压拥有5000万个参数的任务特…
阅读更多...
Java进阶学习笔记11——多态

Java进阶学习笔记11——多态

什么是多态？ 多态是在继承/实现情况下一种现象，表现为：对象多态和行为多态。 同一个对象，在不同时刻表现出来的不同形态。 多态的前提： 要有继承/实现关系 要有方法的重写 要有父类引用指向子类对象。 多态的具体代码…
阅读更多...
电脑文件夹怎么加密？文件夹加密软件推荐

电脑文件夹怎么加密？文件夹加密软件推荐

加密文件夹是保护电脑数据的重要方法，我们可以使用专业的文件夹加密软件来加密保护文件夹。下面小编就为大家介绍三种优秀的文件夹加密软件，安全保护电脑文件夹。 文件夹加密超级大师 文件夹加密超级大师是一款功能强大的文件夹加密软件，文件…
阅读更多...
Spring 模拟管理Web应用程序

Spring 模拟管理Web应用程序

MVC：Model View Controller 1）controller：控制层（Servlet是运行服务器端，处理请求响应java语言编写技术） 2）service：业务层（事务，异常） 3&#xf…
阅读更多...
Apache Hive 安装与配置的详细教程

Apache Hive 安装与配置的详细教程

1. Hive简介 Hive是基于Hadoop的一个数据仓库工具，用来进行数据提取、转化、加载，这是一种可以存储、查询和分析存储在Hadoop中的大规模数据的机制。hive数据仓库工具能将结构化的数据文件映射为一张数据库表，并提供SQL查询功能，能…
阅读更多...
2024-05-22 VS2022使用modules

2024-05-22 VS2022使用modules

点击 <C 语言编程核心突破> 快速C语言入门 VS2022使用modules 前言一、准备二、使用其一, 用VS installer 安装模块:第二个选项就是, 与你的代码一同编译std模块, 这个非常简单, 但是也有坑. 总结 前言 要解决问题: 使用VS2022开启modules. 想到的思路: 跟着官方文档整…
阅读更多...
乡村振兴的乡村环境治理与保护：加强乡村环境治理与保护，改善乡村环境质量，打造美丽宜居的乡村环境

乡村振兴的乡村环境治理与保护：加强乡村环境治理与保护，改善乡村环境质量，打造美丽宜居的乡村环境

一、引言 随着乡村振兴战略的深入实施&#xff0c;乡村环境治理与保护成为推动乡村全面振兴的关键环节。乡村环境是乡村发展的重要基础&#xff0c;关系到农民的生产生活和身心健康&#xff0c;也直接影响到乡村经济的可持续发展。因此&#xff0c;加强乡村环境治理与保护&…
阅读更多...
法律法规与标准化知识

法律法规与标准化知识

阅读更多...
Windows VS2022 C语言使用 sqlite3.dll 访问 SQLite数据库

Windows VS2022 C语言使用 sqlite3.dll 访问 SQLite数据库

今天接到一个学生C语言访问SQLite数据库的的需求： 第一步，SQLite Download Page下载 sqlite3.dll 库 下载解压，发现只有两个文件： 于是使用x64 Native Tools Command Prompt 终端 生成 sqlite3.lib 和 sqlite3.exp文件 LIB -def:sqlite3.def -out:sqlite3.lib -machin…
阅读更多...
React中显示数据

React中显示数据

SX 会让你把标签放到 JavaScript 中。而大括号会让你 “回到” JavaScript 中&#xff0c;这样你就可以从你的代码中嵌入一些变量并展示给用户。例如&#xff0c;这将显示 user.name&#xff1a; return (<h1>{user.name}</h1> ); 你还可以将 JSX 属性 “转义到 …
阅读更多...
PYQT5点击Button执行多次问题解决方案(亲测)

PYQT5点击Button执行多次问题解决方案(亲测)

PYQT5点击Button却执行多次问题 使用pyqt5时遇到问题&#xff0c;UI上按钮点击一次&#xff0c;对应的槽函数却执行了3遍 首先&#xff0c;确认函数名无冲突&#xff0c;UI button名无命名冲突&#xff0c;下图是简单的示例程序&#xff1a; 运行后&#xff0c;点击按钮&#…
阅读更多...
数据库主流技术

数据库主流技术

文章目录 1.分布式数据库1.1 基础知识1.2 体系结构 2.Web数据库3.XML与数据库4.面向对象数据库5.大数据和数据仓库 1.分布式数据库 1.1 基础知识 分布式数据库系统是数据库系统和计算机网络相结合的产物。 由于计算机功能增强&#xff0c;成本下降&#xff0c;几乎每个办公室…
阅读更多...
Java开发大厂面试第17讲：MySQL 的优化方案有哪些？数据库设计、查询优化、索引优化、硬件和配置优化等

Java开发大厂面试第17讲：MySQL 的优化方案有哪些？数据库设计、查询优化、索引优化、硬件和配置优化等

性能优化&#xff08;Optimize&#xff09;指的是在保证系统正确性的前提下&#xff0c;能够更快速响应请求的一种手段。而且有些性能问题&#xff0c;比如慢查询等&#xff0c;如果积累到一定的程度或者是遇到急速上升的并发请求之后&#xff0c;会导致严重的后果&#xff0c;…
阅读更多...
Midjourney是一个基于GPT-3.5系列接口开发的免费AI机器人

Midjourney是一个基于GPT-3.5系列接口开发的免费AI机器人

Midjourney是一个基于GPT-3.5系列接口开发的免费AI机器人&#xff0c;旨在提供多领域的智能对话服务。Midjourney在不同领域中有不同的定义和应用&#xff0c;以下是对其中两个主要领域的介绍&#xff1a; Midjourney官网&#xff1a;https://www.midjourney.com/ 一、AI绘画工…
阅读更多...
人才测评的应用：人才选拔，岗位晋升，面试招聘测评

人才测评的应用：人才选拔，岗位晋升，面试招聘测评

人才测评自诞生以来&#xff0c;就被广泛应用在各大方面&#xff0c;不仅是我们熟悉的招聘上&#xff0c;还有其他考核和晋升&#xff0c;都会需要用到人才测评。不知道怎么招聘&#xff1f;或者不懂得如何实现人才晋升&#xff1f;都可以参考人才测评&#xff0c;利用它帮我们…
阅读更多...
ensp-三层交换技术

ensp-三层交换技术

交换机-三层交换 一.概述 单臂路由有明显的缺陷,单臂路由的链路使用率高,可能会造成网路拥塞,造成网络不可用 可以让多个交换机连接路由器的不同接口,但是路由器的接口毕竟有限,不像交换机一样有那么多接口 使用三层交换解决路由器接口不够用问题 二.三层交换 1.创建多个VLAN…
阅读更多...
从《红楼梦》的视角看大模型知识库 RAG 服务的 Rerank 调优

从《红楼梦》的视角看大模型知识库 RAG 服务的 Rerank 调优

背景介绍 在之前的文章 有道 QAnything 源码解读 中介绍了有道 RAG 的一个主要亮点在于对 Rerank 机制的重视。 从目前来看&#xff0c;Rerank 确实逐渐成为 RAG 的一个重要模块&#xff0c;在这篇文章中就希望能讲清楚为什么 RAG 服务需要 Rerank 机制&#xff0c;以及如何选…
阅读更多...
最新文章

Copyright @ 2022~2023