智谱 GLM4 模型开源，意料之中的尺寸，意料之外的效果

最近智谱开了GLM-4-9B的模型，不是6B，是9B。

一共开源了四个模型，Base版本模型（GLM-4-9B）、Chat版本模型（GLM-4-9B-Chat和GLM-4-9B-Chat-1M）和多模态模型（GLM-4V-9B-Chat）。

其中，模型为多语言模型除了支持中文、英文之外，还支持日语，韩语，德语在内的26种语言；Chat系列模型支持网页浏览、代码执行、自定义工具调用（Function Call）的能力；GLM-4V-9B模型支持中英双语多轮对话能力。

Github: https://github.com/THUDM/GLM-4
HF: https://huggingface.co/collections/THUDM/glm-4-665fcf188c414b03c2f7e3b7

模型说明

GLM-4-9B模型的结构与GLM-3-6B模型结构一致，主要修改为模型层数、词表大小、支持更长的上下文。

词表由65024增加到151552；
模型层数由28增加到40；
最大长度之前的32K、128K到128K、1M。

模型的License还是免费学术研究、商业需要登记，但必须遵守相关条款和条件，与GLM3一致。

技术交流群

前沿技术资讯、算法交流、求职内推、算法竞赛、面试交流(校招、社招、实习)等、与 10000+来自港科大、北大、清华、中科院、CMU、腾讯、百度等名校名企开发者互动交流~

我们建了大模型算法岗技术与面试交流群，想要大模型技术交流、了解最新面试动态的、需要源码&资料、提升技术的同学，可以直接加微信号：mlc2040。加的时候备注一下：研究方向 +学校/公司+CSDN，即可。然后就可以拉你进群了。

想加入星球也可以如下方式：

方式①、微信搜索公众号：机器学习社区，后台回复：星球
方式②、添加微信号：mlc2040，备注：星球

效果说明

效果一句话总结，全面领先Llama-3-8B模型，全面领先上一代ChatGLM3-6B模型。（这让我更加期待过两天即将开源的Qwen2系列模型的效果啦，开源真的越来越好了）

下面效果来自于官方Github效果截图。

在Base和Chat模型上，GLM-4-9B均优于Llama-3-8B模型。

在这里插入图片描述

Base

在这里插入图片描述

Chat

1M模型上进行大海捞针，效果全绿。

在这里插入图片描述

工具调用上，也是优于Llama-3-8B模型。

在这里插入图片描述

最后是GLM-4V-9B多模态模型效果，全面领先前一阵爆火的面壁MiniCPM-Llama3-V2.5多模态模型**（毕竟斯坦福都来抄）**。

在这里插入图片描述

现在这些榜单的效果虽然可以展现出来一定能力，但我还是更相信对战榜单，后面不知道lmsys上会不会有GLM-4-9B-Chat的效果，真实场景中PK一把，看看谁弱谁强。

快速调用

直接transformers走起，以GLM-4-9B-Chat模型为例。

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

device = "cuda"

tokenizer = AutoTokenizer.from_pretrained("THUDM/glm-4-9b-chat",trust_remote_code=True)

query = "你好"

inputs = tokenizer.apply_chat_template([{"role": "user", "content": query}],
                                       add_generation_prompt=True,
                                       tokenize=True,
                                       return_tensors="pt",
                                       return_dict=True
                                       )

inputs = inputs.to(device)
model = AutoModelForCausalLM.from_pretrained(
    "THUDM/glm-4-9b-chat",
    torch_dtype=torch.bfloat16,
    low_cpu_mem_usage=True,
    trust_remote_code=True
).to(device).eval()

gen_kwargs = {"max_length": 2500, "do_sample": True, "top_k": 5}
with torch.no_grad():
    outputs = model.generate(**inputs, **gen_kwargs)
    outputs = outputs[:, inputs['input_ids'].shape[1]:]
    print(tokenizer.decode(outputs[0], skip_special_tokens=True))