聊一下大模型的函数调用-Function call

你好，我是 shengjk1，多年大厂经验，努力构建 通俗易懂的、好玩的编程语言教程。 欢迎关注！你会有如下收益：

  1. 了解大厂经验
  2. 拥有和大厂相匹配的技术等 希望看什么，评论或者私信告诉我！

    文章目录

    • 一、 前言
    • 二、函数调用
      • 2.1 Function call 功能
      • 2.2 GLM-4 是如何进行函数调用的
        • 2.2.1 定义外部函数
        • 2.2.2 描述函数功能
        • 2.3 Function call 代码编写
    • 三、完整代码
    • 四、总结
    • 五、扩展

一、 前言

GPT-4 出来后的一大特色就是 Function call，一直想去尝试一下。后来智普出来了 GLM-4 模型也支持了 Function call，所以就来试一下。
在正式的了解这一块之前呢，我一直以为 Function call 就是大模型可以执行函数呢，从有了这个概念之后到目前为止一直没有想明白，大模型是如何执行函数，脑海里的想法是：大模型调用 python 解释器执行。
但研读了 GLM-4 和 GPT-4 的 Function call 之后，发现不是这样的

二、函数调用

2.1 Function call 功能

函数调用功能可以增强模型推理效果或进行其他外部操作，包括信息检索、数据库操作、知识图谱搜索与推理、操作系统、触发外部操作等工具调用场景。

需要注意的是，大模型的 Function call 不会执行任何函数调用，仅返回调用函数所需要的参数。开发者可以利用模型输出的参数在应用中执行函数调用。

2.2 GLM-4 是如何进行函数调用的

假设我们要创建一个具备查询航班功能的聊天机器人

2.2.1 定义外部函数

我们定义如下两个外部函数供模型选择调用：

    1. 查询两地之间某日航班号函数：get_flight_number(departure: str, destination: str, date: str)
    1. 查询某航班某日票价函数：get_ticket_price(flight_number: str, date: str)
def get_flight_number(date:str , departure:str , destination:str):
    flight_number = {
        "北京":{
            "上海" : "1234",
            "广州" : "8321",
        },
        "上海":{
            "北京" : "1233",
            "广州" : "8123",
        }
    }
    return { "flight_number":flight_number[departure][destination] }
def get_ticket_price(date:str , flight_number:str):
    return {"ticket_price": "1000"}

2.2.2 描述函数功能

为了向模型描述外部函数库，需要向 tools 字段传入可以调用的函数列表。参数如下表：

参数名称类型是否必填参数说明
typeString是设置为function
functionObject是
nameString是函数名称
descriptionString是用于描述函数功能。模型会根据这段描述决定函数调用方式。
parametersObject是parameters字段需要传入一个 Json Schema 对象，以准确地定义函数所接受的参数。若调用函数时不需要传入参数，省略该参数即可。
required否指定哪些属性在数据中必须被包含。

样例：

tools = [
    {
        "type": "function",
        "function": {
            "name": "get_flight_number",
            "description": "根据始发地、目的地和日期，查询对应日期的航班号",
            "parameters": {
                "type": "object",
                "properties": {
                    "departure": {
                        "description": "出发地",
                        "type": "string"
                    },
                    "destination": {
                        "description": "目的地",
                        "type": "string"
                    },
                    "date": {
                        "description": "日期",
                        "type": "string",
                    }
                },
                "required": [ "departure", "destination", "date" ]
            },
        }
    },
    {
        "type": "function",
        "function": {
            "name": "get_ticket_price",
            "description": "查询某航班在某日的票价",
            "parameters": {
                "type": "object",
                "properties": {
                    "flight_number": {
                        "description": "航班号",
                        "type": "string"
                    },
                    "date": {
                        "description": "日期",
                        "type": "string",
                    }
                },
                "required": [ "flight_number", "date"]
            },
        }
    },
]

2.3 Function call 代码编写

函数描述

tools = [
    {
        "type": "function",
        "function": {
            "name": "get_flight_number",
            "description": "根据始发地、目的地和日期，查询对应日期的航班号",
            "parameters": {
                "type": "object",
                "properties": {
                    "departure": {
                        "description": "出发地",
                        "type": "string"
                    },
                    "destination": {
                        "description": "目的地",
                        "type": "string"
                    },
                    "date": {
                        "description": "日期",
                        "type": "string",
                    }
                },
                "required": [ "departure", "destination", "date" ]
            },
        }
    },
    {
        "type": "function",
        "function": {
            "name": "get_ticket_price",
            "description": "查询某航班在某日的票价",
            "parameters": {
                "type": "object",
                "properties": {
                    "flight_number": {
                        "description": "航班号",
                        "type": "string"
                    },
                    "date": {
                        "description": "日期",
                        "type": "string",
                    }
                },
                "required": [ "flight_number", "date"]
            },
        }
    },
]

创建 client

没有 key 可以自己去 智普开发平台注册一下，目前注册送 100万 token

client = ZhipuAI(api_key='')

请求模型，这一块仅仅是一个中间步骤
我们想查询2024年1月20日从北京前往上海的航班。我们向模型提供这个信息：

messages = []
messages.append({"role": "user", "content": "帮我查询从2024年1月20日，从北京出发前往上海的航班"})
response = client.chat.completions.create(
    model="glm-4",  # 填写需要调用的模型名称
    messages=messages,
    tools=tools,
    tool_choice='auto'
)
print(response.choices[0].message)
messages.append(response.choices[0].message.model_dump())

关于 tool_choice 如果不写，则默认情况下模型将决定何时适合使用其中一个函数。

如果要控制模型如何选择函数调用，需要设置 tool_choice 参数。参数默认值为auto，此时模型根据上下文信息自行选择是否返回函数调用。

若将其设置为 {“name”: “your_function_name”} 时，可以强制 API 返回特定函数的调用。

还可以通过将 tool_choice 参数设置为 “none” 来强制 API 不返回任何函数的调用。

输出

content=None role='assistant' tool_calls=[CompletionMessageToolCall(id='call_8495942909317716104', function=Function(arguments='{"date":"2024-01-20","departure":"北京","destination":"上海"}', name='get_flight_number'), type='function')]

可以看到此时模型成功触发对 get_flight_number 函数的调用 参数为：date=“2024-01-20”,departure=“北京”,destination=“上海”

定义处理 Function call 的函数，这参数高潮，其实所谓的 Function call，就是通过大模型选择函数以及获取函数的参数

def parse_function_call(model_response,messages):
    # 处理函数调用结果，根据模型返回参数，调用对应的函数。
    # 调用函数返回结果后构造tool message，再次调用模型，将函数结果输入模型
    # 模型会将函数调用结果以自然语言格式返回给用户。
    if model_response.choices[0].message.tool_calls:
        tool_call = model_response.choices[0].message.tool_calls[0]
        args = tool_call.function.arguments
        function_result = {}
        if tool_call.function.name == "get_flight_number":
            function_result = get_flight_number(**json.loads(args))
        if tool_call.function.name == "get_ticket_price":
            function_result = get_ticket_price(**json.loads(args))
        messages.append({
            "role": "tool",
            "content": f"{json.dumps(function_result)}",
            "tool_call_id":tool_call.id
        })
        response = client.chat.completions.create(
            model="glm-4",  # 填写需要调用的模型名称
            messages=messages,
            tools=tools,
        )
        print(response.choices[0].message)
        messages.append(response.choices[0].message.model_dump())

请求模型获取最终结果
查询北京到广州的航班：

# 清空对话
messages = []

messages.append({"role": "system", "content": "不要假设或猜测传入函数的参数值。如果用户的描述不明确，请要求用户提供必要信息"})
messages.append({"role": "user", "content": "帮我查询1月23日，北京到广州的航班"})

response = client.chat.completions.create(
    model="glm-4",  # 填写需要调用的模型名称
    messages=messages,
    tools=tools,
)
print(response.choices[0].message)
messages.append(response.choices[0].message.model_dump())

parse_function_call(response,messages)

返回

content=None role='assistant' tool_calls=[CompletionMessageToolCall(id='call_8282666790542042140', function=Function(arguments='{"date":"2023-01-23","departure":"北京","destination":"广州"}', name='get_flight_number'), type='function')]
content='根据您的要求，我已经查询到了1月23日从北京到广州的航班号，航班号为8321。' role='assistant' tool_calls=None

查询票价也是同理

三、完整代码

def get_flight_number(date:str , departure:str , destination:str):
    flight_number = {
        "北京":{
            "上海" : "1234",
            "广州" : "8321",
        },
        "上海":{
            "北京" : "1233",
            "广州" : "8123",
        }
    }
    return { "flight_number":flight_number[departure][destination] }
def get_ticket_price(date:str , flight_number:str):
    return {"ticket_price": "1000"}
    


tools = [
    {
        "type": "function",
        "function": {
            "name": "get_flight_number",
            "description": "根据始发地、目的地和日期，查询对应日期的航班号",
            "parameters": {
                "type": "object",
                "properties": {
                    "departure": {
                        "description": "出发地",
                        "type": "string"
                    },
                    "destination": {
                        "description": "目的地",
                        "type": "string"
                    },
                    "date": {
                        "description": "日期",
                        "type": "string",
                    }
                },
                "required": [ "departure", "destination", "date" ]
            },
        }
    },
    {
        "type": "function",
        "function": {
            "name": "get_ticket_price",
            "description": "查询某航班在某日的票价",
            "parameters": {
                "type": "object",
                "properties": {
                    "flight_number": {
                        "description": "航班号",
                        "type": "string"
                    },
                    "date": {
                        "description": "日期",
                        "type": "string",
                    }
                },
                "required": [ "flight_number", "date"]
            },
        }
    },
]

client = ZhipuAI(api_key='')


def parse_function_call(model_response,messages):
    # 处理函数调用结果，根据模型返回参数，调用对应的函数。
    # 调用函数返回结果后构造tool message，再次调用模型，将函数结果输入模型
    # 模型会将函数调用结果以自然语言格式返回给用户。
    if model_response.choices[0].message.tool_calls:
        tool_call = model_response.choices[0].message.tool_calls[0]
        args = tool_call.function.arguments
        function_result = {}
        if tool_call.function.name == "get_flight_number":
            function_result = get_flight_number(**json.loads(args))
        if tool_call.function.name == "get_ticket_price":
            function_result = get_ticket_price(**json.loads(args))
        messages.append({
            "role": "tool",
            "content": f"{json.dumps(function_result)}",
            "tool_call_id":tool_call.id
        })
        response = client.chat.completions.create(
            model="glm-4",  # 填写需要调用的模型名称
            messages=messages,
            tools=tools,
        )
        print(response.choices[0].message)
        messages.append(response.choices[0].message.model_dump())

# 清空对话
messages = []

messages.append({"role": "system", "content": "不要假设或猜测传入函数的参数值。如果用户的描述不明确，请要求用户提供必要信息"})
messages.append({"role": "user", "content": "帮我查询1月23日，北京到广州的航班"})

response = client.chat.completions.create(
    model="glm-4",  # 填写需要调用的模型名称
    messages=messages,
    tools=tools,
)
print(response.choices[0].message)
messages.append(response.choices[0].message.model_dump())

parse_function_call(response,messages)

四、总结

本文介绍了大模型 Function call 功能的基本概念和使用方法，包括定义外部函数、描述函数功能、代码编写等。同时，文章还提到了如果没有 Function call，类似的问题也可以通过其他方式解决。本文适合初学者了解大模型 Function call 功能。

整体的过程:大模型 Function call 其实就是通过大模型找到对应的函数，然后再把函数执行后的结果，返回给大模型，最后大模型给出结果。

五、扩展

如果没有 Fcuntion call，类似的问题能解决吗？当然可以。
这里呢，我们葫芦AI终身免费使用GPT-4来看一下效果
我们输入 promot

现在有两个函数的描述：

  


{
        "type": "function",
        "function": {
            "name": "get_flight_number",
            "description": "根据始发地、目的地和日期，查询对应日期的航班号",
            "parameters": 
                "type": "object",
                "properties": {
                    "departure": {
                        "description": "出发地",
                        "type": "string"
                    },
                    "destination": {
                        "description": "目的地",
                        "type": "string"
                    },
                    "date": {
                        "description": "日期",
                        "type": "string",
                    }
                },
                "required": [ "departure", "destination", "date" ]
            },
        }
    },
  


依据上述两个函数的描述，我想查一下从北京到天津 20240322 的航班，请问该选择哪个函数，并以 json 的格式返回函数对应的参数

返回结果

所以 Function call 的技术复杂度有多少，自然一目了然

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：/a/478861.html

如若内容造成侵权/违法违规/事实不符，请联系我们进行投诉反馈qq邮箱809451989@qq.com，一经查实，立即删除！

相关文章

Springboot 利用自定义注解+切面,实现 查询数据集合时主动加序列字段

Springboot 利用自定义注解+切面,实现 查询数据集合时主动加序列字段

利用自定义注解切面,实现 查询数据集合时主动加序列字段, 只需要在Dao接口，方法上引入注解即可 import java.lang.annotation.ElementType; import java.lang.annotation.Retention; import java.lang.annotation.RetentionPolicy; import java.lang.annotat…
阅读更多...
数据结构 - 链表

数据结构 - 链表

一.链表的概念 链表是一个在物理存储单元中不连续，没有顺序的的存储结构，关于它的顺序是由链表中的指针链接实现的，是一种递归的数据结构，链表有一系列节点组成，而这些节点会在运行时动态生成。 节点包括两个部分&am…
阅读更多...
【docker】查看并拷贝容器内文件

【docker】查看并拷贝容器内文件

一、查询容器 查询所有容器 docker ps查询名为os11的容器 docker ps | grep os11查询名为os11的容器（包含不运行的） docker ps -a| grep os11 docker ps [option] 显示结果介绍如下： 参考：[https://blog.51cto.com/u_15009374/31…
阅读更多...
工厂投产、电池装车，广汽能上动力电池行业的“餐桌”吗？

工厂投产、电池装车，广汽能上动力电池行业的“餐桌”吗？

文 | 智能相对论 作者 | 沈浪 “如果你不在餐桌上，你就会出现在菜单上。”在某种程度上，追逐效益的动力电池行业正在上演着布林肯的“餐桌菜单论”。 于是，我们可以看到，尽管整体的动力电池市场被宁德时代、比亚迪、LG新能源、…
阅读更多...
怿星科技Neptune CHT-S测试系统，让智能座舱测试更加高效便捷

怿星科技Neptune CHT-S测试系统，让智能座舱测试更加高效便捷

随着汽车“智能化”浪潮的推进，汽车的智能化水平正在持续刷新行业认知。在这股智能化潮流中，智能座舱作为客户体验最为直观的部分，其重要性不言而喻。倘若座舱设备出现死机、黑屏、卡顿等现象，都将对客户的使用体验产生非常大的影…
阅读更多...
领军量子时代！逾九成机构加盟「英伟达」生态系统

领军量子时代！逾九成机构加盟「英伟达」生态系统

在2024年3月17日至21日举行的GTC大会上，芯片制造领军企业英伟达（NVIDIA）发布了一项革命性的云服务，专为推动量子计算研究而设计。这一新服务，名为英伟达量子云（NVIDIA Quantum Cloud）&#xff0…
阅读更多...
外包干了15天，技术退步明显。。。。。

外包干了15天，技术退步明显。。。。。

先说一下自己的情况，本科生，2019年我通过校招踏入了南京一家软件公司，开始了我的职业生涯。那时的我，满怀热血和憧憬，期待着在这个行业中闯出一片天地。然而，随着时间的推移，我发现自己逐渐陷入…
阅读更多...
C# winform修改背景图 控件双向绑定 拖拽打开图片

C# winform修改背景图 控件双向绑定 拖拽打开图片

修改背景图 说明 这里我准备基于百度飞桨PaddleSeg项目的人像分割模块做一个人像抠图，这里顺便用上了双向绑定和图片拖拽打开。 下面就是示例： 用颜色替换 用背景图替换 保存成功后的图片 一、使用百度飞桨PaddleSeg //初始化 引擎engine new Padd…
阅读更多...
掌握未来技术：国产openEuler 操作系统学习网站指南！

掌握未来技术：国产openEuler 操作系统学习网站指南！

介绍：openEuler是一个开源的操作系统平台，由华为技术有限公司发起并维护。 首先，openEuler支持多种处理器架构，包括但不限于AArch64（鲲鹏）和x86-64，这使得它可以在多种硬件平台上运行&#xff0…
阅读更多...
滴水逆向PE结构

滴水逆向PE结构

1.操作系统是只能打开可执行文件 以4D 5A开头MZ 其他的txt都是什么wrod 都是在exe程序中打开的 txt啥的不是可执行文件 PE结构是分节的 一节一节 节省硬盘空间 32位中任何一个exe都有4g的虚拟内存 占内存空间大 给磁盘空间小 在硬盘空间紧密 在内存空间大 &#xff08…
阅读更多...
设计模式 --4:工厂方法模式

设计模式 --4:工厂方法模式

总结 ： 个人理解： 工厂方法模式就是在简单工程模式的基础下将工厂类抽象出来。如果不抽象工厂类 ，每一次创建一个新的算法，都要修改原来的工厂类，这不符合 开放–封闭原则 将工厂类给抽象出来，让具体的算法…
阅读更多...
appium自动化框架综合实践

appium自动化框架综合实践

结合前面的元素寻找、操作、unittest测试框架，搭建一个完整的自动化框架。本篇旨在框架设计、单机用例执行、输出报告，下篇继续实践Bat批处理执行测试、多设备并发测试。 框架功能 数据配置日志输出截图处理基础功能封装（公共方法&#xff…
阅读更多...
Java学习笔记NO.24

Java学习笔记NO.24

T1.完成理工超市系统的商品类及其子类的定义，实现“浏览商品”及“查看商品详情”功能 （1）商品类 public class Goods {public String name;public double price;public int count;public String desc;public Goods(String name, double p…
阅读更多...
敏捷开发——第二次作业JS/服务器的部署

敏捷开发——第二次作业JS/服务器的部署

部署 Web 服务器 1. 安装 Apache HTTP 服务器并部署静态网页应用 ⭐⭐ 默认情况下，Apache 在 /var/www/html 目录下寻找要提供服务的文件。可以将静态网页文件放置在这个目录下 2.安装 Nginx 并部署静态页面应用 3. 实践部分 1. 2. 3. 在 /var/www/html 目录下…
阅读更多...
用大语言模型控制交通信号灯，有效缓解拥堵！

用大语言模型控制交通信号灯，有效缓解拥堵！

城市交通拥堵是一个全球性的问题，在众多缓解交通拥堵的策略中，提高路口交通信号控制的效率至关重要。传统的基于规则的交通信号控制（TSC）方法，由于其静态的、基于规则的算法，无法完全适应城市交通不断变化的…
阅读更多...
又一款代码神器，效率直接翻倍！免费的还是香啊！

又一款代码神器，效率直接翻倍！免费的还是香啊！

前言 提到商汤科技，你可能仍然将其与“AI四小龙”、“计算机视觉领军企业”等标签联系在一起。然而，在ChatGPT与Sora赢得广泛关注后，商汤科技依托其深厚的人工智能技术基础，迅速开发出自己的大型模型及人工智能应用产品&#xff…
阅读更多...
网络基础（一）初识

网络基础（一）初识

1、计算机网络背景 1.1、网络发展 1. 独立模式: 计算机之间相互独立； 2. 网络互联: 多台计算机连接在一起，完成数据共享； 3. 局域网LAN: 计算机数量更多了, 通过交换机和路由器连接在一起; 4. 广域网WAN: 将远隔千里的计算机都连在一起;…
阅读更多...
Win11右键菜单定制

Win11右键菜单定制

0.优化目标 优化成：右键菜单优化成全量菜单选项，并精简掉我不需要的菜单选项。 具体优化步骤： 1.win11菜单恢复到win10经典状态 win11右键菜单是缩水版的，需要再次点击“显示更多选项”才能找到自己想用到的选项，再…
阅读更多...
国内ip切换是否合规？

国内ip切换是否合规？

在网络使用中，IP地址切换是一种常见的行为，可以用于实现隐私保护、访问地域限制内容等目的。然而，对于国内用户来说，IP地址切换是否合规一直是一个备受关注的话题。在中国，网络管理严格，一些IP切换行为可能…
阅读更多...
什么是数据中心常用的ping指令？有什么作用和功能？

什么是数据中心常用的ping指令？有什么作用和功能？

什么是ping指令，它的作用是什么？ ping是一种计算机网络工具，用于测试网络连接是否正常，以及确定网络延迟和丢包情况。ping的运作原理是向目标主机传出一个ICMP的请求回显数据包，并等待接收回显回应数据包。程序会按时…
阅读更多...
最新文章

Copyright @ 2022~2023