竞赛 题目：基于深度学习的中文对话问答机器人

文章目录

  • 0 简介
  • 1 项目架构
  • 2 项目的主要过程
    • 2.1 数据清洗、预处理
    • 2.2 分桶
    • 2.3 训练
  • 3 项目的整体结构
  • 4 重要的API
    • 4.1 LSTM cells部分：
    • 4.2 损失函数：
    • 4.3 搭建seq2seq框架：
    • 4.4 测试部分：
    • 4.5 评价NLP测试效果：
    • 4.6 梯度截断，防止梯度爆炸
    • 4.7 模型保存
  • 5 重点和难点
    • 5.1 函数
    • 5.2 变量
  • 6 相关参数
  • 7 桶机制
    • 7.1 处理数据集
    • 7.2 词向量处理seq2seq
    • 7.3 处理问答及答案权重
    • 7.4 训练&保存模型
    • 7.5 载入模型&测试
  • 8 最后

0 简介

🔥 优质竞赛项目系列，今天要分享的是

基于深度学习的中文对话问答机器人

该项目较为新颖，适合作为竞赛课题方向，学长非常推荐！

🧿 更多资料, 项目分享：

https://gitee.com/dancheng-senior/postgraduate

1 项目架构

整个项目分为 数据清洗 和 建立模型两个部分。

（1）主要定义了seq2seq这样一个模型。
首先是一个构造函数，在构造函数中定义了这个模型的参数。
以及构成seq2seq的基本单元的LSTM单元是怎么构建的。

（2）接着在把这个LSTM间单元构建好之后，加入模型的损失函数。
我们这边用的损失函数叫sampled_softmax_loss，这个实际上就是我们的采样损失。做softmax的时候，我们是从这个6000多维里边找512个出来做采样。
损失函数做训练的时候需要，测试的时候不需要。训练的时候，y值是one_hot向量

（3）然后再把你定义好的整个的w[512*6000]、b[6000多维]，还有我们的这个cell本身，以及我们的这个损失函数一同代到我们这个seq2seq模型里边。然后呢，这样的话就构成了我们这样一个seq2seq模型。
函数是tf.contrib.legacy_seq2seq.embedding_attention_seq2seq()

（4）最后再将我们传入的实参，也就是三个序列，经过这个桶的筛选。然后放到这个模型去训练啊，那么这个模型就会被训练好。到后面，我们可以把我们这个模型保存在model里面去。模型参数195M。做桶的目的就是节约计算资源。

2 项目的主要过程

前提是一问一答，情景对话，不是多轮对话（比较难，但是热门领域）

整个框架第一步：做语料

先拿到一个文件，命名为.conv（只要不命名那几个特殊的，word等）。输入目录是db，输出目录是bucket_dbs，不存在则新建目录。

测试的时候，先在控制台输入一句话，然后将这句话通过正反向字典Ids化，然后去桶里面找对应的回答的每一个字，然后将输出通过反向字典转化为汉字。

2.1 数据清洗、预处理

读取整个语料库，去掉E、M和空格，还原成原始文本。创建conversion.db，conversion表，两个字段。每取完1000组对话，插入依次数据库，批量提交，通过cursor.commit.

在这里插入图片描述

2.2 分桶

从总的conversion.db中分桶，指定输入目录db, 输出目录bucket_dbs.

检测文字有效性，循环遍历，依次记录问题答案，每积累到1000次，就写入数据库。

​

        for ask, answer in tqdm(ret, total=total):
            if is_valid(ask) and is_valid(answer):
                for i in range(len(buckets)):
                    encoder_size, decoder_size = buckets[i]
                    if len(ask) <= encoder_size and len(answer) < decoder_size:
                        word_count.update(list(ask))
                        word_count.update(list(answer))
                        wait_insert.append((encoder_size, decoder_size, ask, answer))
                        if len(wait_insert) > 10000000:
                            wait_insert = _insert(wait_insert)
                        break

将字典维度6865未，投影到100维，也就是每个字是由100维的向量组成的。后面的隐藏层的神经元的个数是512，也就是维度。

句子长度超过桶长，就截断或直接丢弃。

四个桶是在read_bucket_dbs()读取的方法中创建的，读桶文件的时候，实例化四个桶对象。

2.3 训练

先读取json字典，加上pad等四个标记。

lstm有两层，attention在解码器的第二层，因为第二层才是lstm的输出，用两层提取到的特征越好。

num_sampled=512, 分批softmax的样本量（

训练和测试差不多，测试只前向传播，不反向更新

3 项目的整体结构

s2s.py：相当于main函数，让代码运行起来
里面有train()、test()、test_bleu()和create_model()四个方法，还有FLAGS成员变量，
相当于静态成员变量 public static final string

decode_conv.py和data_utils.py：是数据处理

s2s_model.py:
里面放的是模型
里面有init()、step()、get_batch_data()和get_batch()四个方法。构造方法传入构造方法的参数，搭建S2SModel框架，然后sampled_loss()和seq2seq_f()两个方法

data_utils.py:
读取数据库中的文件，并且构造正反向字典。把语料分成四个桶，目的是节约计算资源。先转换为db\conversation.db大的桶，再分成四个小的桶。buckets
= [ (5, 15), (10, 20), (15, 25), (20, 30)]
比如buckets[1]指的就是(10, 20)，buckets[1][0]指的就是10。
bucket_id指的就是0，1，2，3

dictionary.json：
是所有数字、字母、标点符号、汉字的字典，加上生僻字，以及PAD、EOS、GO、UNK 共6865维度，输入的时候会进行词嵌入word
embedding成512维，输出时，再转化为6865维。

model：
文件夹下装的是训练好的模型。
也就是model3.data-00000-of-00001，这个里面装的就是模型的参数
执行model.saver.restore(sess, os.path.join(FLAGS.model_dir,
FLAGS.model_name))的时候，才是加载目录本地的保存的模型参数的过程，上面建立的模型是个架子，
model = create_model(sess, True)，这里加载模型比较耗时，时间复杂度最高

dgk_shooter_min.conv:
是语料，形如： E
M 畹/华/吾/侄/
M 你/接/到/这/封/信/的/时/候/
decode_conv.py: 对语料数据进行预处理
config.json：是配置文件，自动生成的

4 重要的API

4.1 LSTM cells部分：

​

    cell = tf.contrib.rnn.BasicLSTMCell(size)
    cell = tf.contrib.rnn.DropoutWrapper(cell, output_keep_prob=dropout)
    cell = tf.contrib.rnn.MultiRNNCell([cell] * num_layers)
    对上一行的cell去做Dropout的，在外面裹一层DropoutWrapper

构建双层lstm网络，只是一个双层的lstm，不是双层的seq2seq

4.2 损失函数：

​

tf.nn.sampled_softmax_loss( weights=local_w_t,
b labels=labels, #真实序列值，每次一个
inputs=loiases=local_b,
cal_inputs, #预测出来的值，y^,每次一个
num_sampled=num_samples, #512
num_classes=self.target_vocab_size # 原始字典维度6865)

4.3 搭建seq2seq框架：

  

    tf.contrib.legacy_seq2seq.embedding_attention_seq2seq(
    encoder_inputs, # tensor of input seq 30
    decoder_inputs, # tensor of decoder seq 30
    tmp_cell, #自定义的cell,可以是GRU/LSTM, 设置multilayer等
    num_encoder_symbols=source_vocab_size,# 编码阶段字典的维度6865

                num_decoder_symbols=target_vocab_size, # 解码阶段字典的维度 6865
                embedding_size=size, # embedding 维度，512
                num_heads=20, #选20个也可以，精确度会高点，num_heads就是attention机制，选一个就是一个head去连，5个就是5个头去连
                output_projection=output_projection,# 输出层。不设定的话输出维数可能很大(取决于词表大小)，设定的话投影到一个低维向量
                feed_previous=do_decode,# 是否执行的EOS，是否允许输入中间c
                dtype=dtype
            )

4.4 测试部分：

​

self.outputs, self.losses = tf.contrib.legacy_seq2seq.model_with_buckets(
self.encoder_inputs,
self.decoder_inputs,
targets,
self.decoder_weights,
buckets,
lambda x, y: seq2seq_f(x, y, True),
softmax_loss_function=softmax_loss_function
)

4.5 评价NLP测试效果：

在nltk包里，有个接口叫bleu，可以评估测试结果，NITK是个框架

​

from nltk.translate.bleu_score import sentence_bleu
score = sentence_bleu(
references,#y值
list(ret),#y^
weights=(1.0,)#权重为1
)

4.6 梯度截断，防止梯度爆炸

​

clipped_gradients, norm = tf.clip_by_global_norm(gradients,max_gradient_norm)
tf.clip_by_global_norm(t_list, clip_norm, use_norm=None, name=None)

通过权重梯度的总和的比率来截取多个张量的值。t_list是梯度张量， clip_norm是截取的比率,这个函数返回截取过的梯度张量和一个所有张量的全局范数

4.7 模型保存

​

tf.train.Saver(tf.global_variables(), write_version=tf.train.SaverDef.V2)

5 重点和难点

5.1 函数

​

def get_batch_data(self, bucket_dbs, bucket_id):
def get_batch(self, bucket_dbs, bucket_id, data):
def step(self,session,encoder_inputs,decoder_inputs,decoder_weights,bucket_id):

5.2 变量

​

batch_encoder_inputs, batch_decoder_inputs, batch_weights = [], [], []

6 相关参数

​



     model = s2s_model.S2SModel(
            data_utils.dim,  # 6865，编码器输入的语料长度
            data_utils.dim,  # 6865，解码器输出的语料长度
            buckets,  # buckets就是那四个桶，data_utils.buckets，直接在data_utils写的一个变量，就能直接被点出来
            FLAGS.size, # 隐层神经元的个数512
            FLAGS.dropout, # 隐层dropout率，dropout不是lstm中的，lstm的几个门里面不需要dropout，没有那么复杂。是隐层的dropout
            FLAGS.num_layers, # lstm的层数，这里写的是2
            FLAGS.max_gradient_norm, # 5，截断梯度，防止梯度爆炸
            FLAGS.batch_size,  # 64，等下要重新赋值，预测就是1，训练就是64
            FLAGS.learning_rate,    # 0.003
            FLAGS.num_samples,  # 512，用作负采样
            forward_only, #只传一次
            dtype
        )


    {
        "__author__": "qhduan@memect.co",
        "buckets": [
            [5, 15],
            [10, 20],
            [20, 30],
            [40, 50]
        ],
        "size": 512,
        /*s2s lstm单元出来之后的，连的隐层的number unit是512*/
        "depth": 4,
        "dropout": 0.8,
        "batch_size": 512,
        /*每次往里面放多少组对话对，这个是比较灵活的。
        如果找一句话之间的相关性，batch_size就是这句话里面的字有多少个，
        如果要找上下文之间的对话，batch_size就是多少组对话*/
        "random_state": 0,
        "learning_rate": 0.0003,
        /*总共循环20次*/
        "epoch": 20,
        "train_device": "/gpu:0",
        "test_device": "/cpu:0"
    }

7 桶机制

7.1 处理数据集

语料库长度桶结构
(5, 10): 5问题长度,10回答长度
每个桶中对话数量,一问一答为一次完整对话

Analysis
(1) 设定4个桶结构,即将问答分成4个部分,每个同种存放对应的问答数据集[87, 69, 36,
8]四个桶中分别有87组对话,69组对话,36组对话,8组对话;
(2) 训练词数据集符合桶长度则输入对应值,不符合桶长度,则为空;
(3) 对话数量占比:[0.435, 0.78, 0.96, 1.0];

7.2 词向量处理seq2seq

获取问答及答案权重

参数：

  • data: 词向量列表,如[[[4,4],[5,6,8]]]
  • bucket_id: 桶编号,值取自桶对话占比

步骤：

  • 问题和答案的数据量:桶的话数buckets = [(5, 10), (10, 15), (20, 25), (40, 50)]
  • 生成问题和答案的存储器
  • 从问答数据集中随机选取问答
  • 问题末尾添加PAD_ID并反向排序
  • 答案添加GO_ID和PAD_ID
  • 问题,答案,权重批量数据
  • 批量问题
  • 批量答案
  • 答案权重即Attention机制
  • 若答案为PAD则权重设置为0,因为是添加的ID,其他的设置为1

Analysis

  • (1) 对问题和答案的向量重新整理,符合桶尺寸则保持对话尺寸,若不符合桶设定尺寸,则进行填充处理,
    问题使用PAD_ID填充,答案使用GO_ID和PAD_ID填充;

  • (2) 对问题和答案向量填充整理后,使用Attention机制,对答案进行权重分配,答案中的PAD_ID权重为0,其他对应的为1;

  • (3) get_batch()处理词向量;返回问题、答案、答案权重数据;
    返回结果如上结果:encoder_inputs, decoder_inputs, answer_weights.

7.3 处理问答及答案权重

​

参数:
  session: tensorflow 会话.
  encoder_inputs: 问题向量列表
  decoder_inputs: 回答向量列表
  answer_weights: 答案权重列表
  bucket_id: 桶编号which bucket of the model to use.
  forward_only: 前向或反向运算标志位
返回:
    一个由梯度范数组成的三重范数（如果不使用反向传播,则为无）。
 平均困惑度和输出

Analysis

  • (1) 根据输入的问答向量列表,分配语料桶,处理问答向量列表,并生成新的输入字典(dict), input_feed = {};

  • (2) 输出字典(dict), ouput_feed = {},根据是否使用反向传播获得参数,使用反向传播,
    output_feed存储更新的梯度范数,损失,不使用反向传播,则只存储损失;

  • (3) 最终的输出为分两种情况,使用反向传播,返回梯度范数,损失,如反向传播不使用反向传播,
    返回损失和输出的向量(用于加载模型,测试效果),如前向传播;

7.4 训练&保存模型

步骤：

  • 检查是否有已存在的训练模型

  • 有模型则获取模型轮数,接着训练

  • 没有模型则从开始训练

  • 一直训练，每过一段时间保存一次模型

  • 如果模型没有得到提升，减小learning rate

  • 保存模型

  • 使用测试数据评估模型

    global step: 500, learning rate: 0.5, loss: 2.574068747580052
bucket id: 0, eval ppx: 14176.588030763274
bucket id: 1, eval ppx: 3650.0026667220773
bucket id: 2, eval ppx: 4458.454110999805
bucket id: 3, eval ppx: 5290.083583183104

7.5 载入模型&测试

(1) 该聊天机器人使用bucket桶结构,即指定问答数据的长度,匹配符合的桶,在桶中进行存取数据;
(2) 该seq2seq模型使用Tensorflow时,未能建立独立标识的图结构,在进行后台封装过程中出现图为空的现象;

​

从main函数进入test()方法。先去内存中加载训练好的模型model，这部分最耗时，改batch_size为1，传入相关的参数。
    开始输入一个句子，并将它读进来，读进来之后，按照桶将句子分，按照模型输出，然后去查字典。
    接着在循环中输入上句话，找对应的桶。然后拿到的下句话的每个字，找概率最大的那个字的index的id输出。
        get_batch_data(),获取data [('天气\n', '')]，也就是问答对，但是现在只有问，没有答
        get_batch()获取encoder_inputs=1*10，decoder_inputs=1*20 decoder_weights=1*20
        step()获取预测值output_logits，

在这里插入图片描述

8 最后

🧿 更多资料, 项目分享：

https://gitee.com/dancheng-senior/postgraduate

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：/a/161779.html

如若内容造成侵权/违法违规/事实不符，请联系我们进行投诉反馈qq邮箱809451989@qq.com，一经查实，立即删除！

相关文章

美颜sdk是什么？美颜sdk技术解析与比较

美颜sdk是什么？美颜sdk技术解析与比较

美颜SDK的出现为开发者提供了快速实现高质量美颜效果的工具&#xff0c;然而&#xff0c;在众多美颜SDK中&#xff0c;技术实现和效果差异巨大。本文将对美颜SDK进行技术解析&#xff0c;并进行比较&#xff0c;以帮助开发者更好地选择适合其应用需求的美颜SDK。 一、美颜SDK…
阅读更多...
GCD：异步同步？串行并发？一文轻松拿捏！

GCD：异步同步？串行并发？一文轻松拿捏！

GCD 文章目录 GCD进程线程进程与线程的关系进程与线程的区别 任务&#xff08;执行的代码&#xff09;队列线程与队列的关系 队列任务**同步执行任务&#xff08;sync&#xff09;**辅助方法**异步执行任务&#xff08;async)**总结栅栏任务迭代任务 队列详细属性QoSAttributes…
阅读更多...
视频剪辑技巧：简单步骤，批量剪辑并随机分割视频

视频剪辑技巧：简单步骤，批量剪辑并随机分割视频

随着社交媒体平台的广泛普及和视频制作需求的急剧增加&#xff0c;视频剪辑已经成为了当今社会一项不可或缺的技能。然而&#xff0c;对于许多初学者来说&#xff0c;视频剪辑可能是一项令人望而生畏的复杂任务。可能会面临各种困难&#xff0c;如如何选择合适的软件和硬件、如…
阅读更多...
Vue3 shallowRef 和 shallowReactive

Vue3 shallowRef 和 shallowReactive

一、shallowRef 使用shallowRef之前需要进行引入&#xff1a; import { shallowRef } from vue; 使用方法和ref 的使用方法一致&#xff0c;以下是二者的区别&#xff1a; 1. 如果ref 和 shallowRef 都传入的是普通数据类型的数据&#xff0c;那么他们的效果是一样的&#x…
阅读更多...
​软考-高级-系统架构设计师教程（清华第2版）【第18章 安全架构设计理论与实践（P648~690）-思维导图】​

​软考-高级-系统架构设计师教程（清华第2版）【第18章 安全架构设计理论与实践（P648~690）-思维导图】​

软考-高级-系统架构设计师教程&#xff08;清华第2版&#xff09;【第18章 安全架构设计理论与实践&#xff08;P648~690&#xff09;-思维导图】 课本里章节里所有蓝色字体的思维导图
阅读更多...
【C++】chono库：使用及源码分析

【C++】chono库：使用及源码分析

文章目录 0. 概述1. duration1.1 分析std::chrono::duration_cast() 1.2 使用案例std::chrono::duration::count() 1.3 部分源码 2. time_point2.1 分析std::chrono::time_point_cast() 2.2 使用举例std::chrono::time_point::time_since_epoch() 2.3 部分源码 0. 概述 本篇文…
阅读更多...
将ArduinoIDE库文件移动到其他磁盘的方法

将ArduinoIDE库文件移动到其他磁盘的方法

本文主要介绍更改软件包位置Arduino IDE &#xff08;含2.0以上版本&#xff09;的方法。 Arduino IDE 默认将软件包安装到 C 盘&#xff0c;如果你使用的开发板较多&#xff0c;产生的库文件很大&#xff0c;会导致 C 盘可用空间不足&#xff0c;博主只用了ESP开发板&#xf…
阅读更多...
Python程序打包指南：手把手教你一步步完成

Python程序打包指南：手把手教你一步步完成

最近感兴趣想将开发的项目转成Package&#xff0c;研究了一下相关文章&#xff0c;并且自己跑通了&#xff0c;走了一下弯路&#xff0c;这里记录一下如何打包一个简单的Python项目&#xff0c;展示如何添加必要的文件和结构来创建包&#xff0c;如何构建包&#xff0c;以及如何…
阅读更多...
纯CSS自定义滚动条样式

纯CSS自定义滚动条样式

.my-carousel{height: 474px;overflow-y: auto; } /*正常情况下滑块的样式*/ .my-carousel::-webkit-scrollbar {width: 5px; } .my-carousel::-webkit-scrollbar-thumb {border-radius: 8px;background-color: #ccc; } .my-carousel::-webkit-scrollbar-track {border-radius:…
阅读更多...
生活总是自己的，请尽情打扮，尽情可爱，，

生活总是自己的，请尽情打扮，尽情可爱，，

同色系拼接羽绒服了解一下 穿上时尚感一下子就突显出来了 90白鸭绒填充&#xff0c;不仅时尚还保暖 设计感满满的羽绒服不考虑一下吗?
阅读更多...
Git企业开发级讲解（四）

Git企业开发级讲解（四）

&#x1f4d8;北尘_&#xff1a;个人主页 &#x1f30e;个人专栏:《Linux操作系统》《经典算法试题 》《C》 《数据结构与算法》 ☀️走在路上&#xff0c;不忘来时的初心 文章目录 一、理解分⽀二、创建分支三、切换分⽀四、合并分⽀五、删除分⽀六、合并冲突七、分⽀管理策略…
阅读更多...
Windows10下Maven3.9.5安装教程

Windows10下Maven3.9.5安装教程

文章目录 1.下载maven2.安装3.配置系统变量3.1.新建系统变量 MAVEN_HOME3.2.编辑系统变量Path 4.CMD命令测试是否安装成功5.配置maven本地仓库6.配置国内镜像仓库 1.下载maven 官网 https://maven.apache.org/download.cgi 点击下载。 2.安装 解压到指定目录 D:\installSoft…
阅读更多...
vue3基础学习

vue3基础学习

##以前怎么玩的? ###MVC Model:Bean View:视图 Controller ##vue的ref reactive ref:必须是简单类型 reactive:必须不能是简单类型 ###创建一个Vue项目 npm init vuelatest ###生命周期 ###setup相关 ####Vue2的一些写法 -- options API ####Vue3的写法 组合式API Vu…
阅读更多...
深入理解ResNet网络：实现与应用

深入理解ResNet网络：实现与应用

Resnet 在深度学习领域&#xff0c;卷积神经网络&#xff08;CNN&#xff09;是一种非常重要的模型&#xff0c;它在图像识别、目标检测等领域取得了显著的成果。然而&#xff0c;随着网络层数的增加&#xff0c;梯度消失和梯度爆炸问题变得越来越严重&#xff0c;导致训练深层…
阅读更多...
OpenCV快速入门：图像滤波与边缘检测

OpenCV快速入门：图像滤波与边缘检测

文章目录 前言一、噪声种类与生成1.1 椒盐噪声1.2 高斯噪声1.3 彩色噪声 二、卷积操作2.1 卷积基本原理2.2 卷积操作代码实现 三、线性滤波3.1 均值滤波均值滤波原理均值滤波公式均值滤波代码实现 3.2 方框滤波方框滤波原理方框滤波公式方框滤波代码实现 3.3 高斯滤波高斯滤波原…
阅读更多...
Matalab插值详解和源码

Matalab插值详解和源码

转载&#xff1a;Matalab插值详解和源码 - 知乎 (zhihu.com) 插值法 插值法又称“内插法”&#xff0c;是利用函数f (x)在某区间中已知的若干点的函数值&#xff0c;作出适当的特定函数&#xff0c;在区间的其他点上用这特定函数的值作为函数f (x)的近似值&#xff0c;这种方…
阅读更多...
kernel32.dll下载地址分享，Kernel32.DLL文件丢失的修复指南

kernel32.dll下载地址分享，Kernel32.DLL文件丢失的修复指南

作为计算机用户&#xff0c;我们可能都曾遭遇过这样一条令人烦恼的错误信息&#xff1a; "程序无法启动&#xff0c;因为您的计算机中缺少Kernel32.dll"。在这种情况下&#xff0c;往往会引发一系列疑问&#xff1a; Kernel32.dll是什么&#xff1f;为什么它对我的电…
阅读更多...
51.Sentinel微服务保护

51.Sentinel微服务保护

目录 &#xff08;1&#xff09;初识Sentinel。 &#xff08;1.1&#xff09;雪崩问题及解决方案。 &#xff08;1.1.1&#xff09;雪崩问题。 &#xff08;1.1.2&#xff09;解决雪崩问题的四种方式。 &#xff08;1.1.3&#xff09;总结。 &#xff08;1.2&#xff09;…
阅读更多...
c语言：模拟实现qsort函数

c语言：模拟实现qsort函数

qsort函数的功能&#xff1a; qsort相较于冒泡排序法&#xff0c;不仅效率更快&#xff0c;而且能够比较不同类型的元素&#xff0c;如&#xff1a;浮点数&#xff0c;结构体等等。这里我们来模拟下qsort是如何实现这一功能的&#xff0c;方便我们对指针数组有一个更深层次的理…
阅读更多...
【APUE】补充 — 基于管道的线程池

【APUE】补充 — 基于管道的线程池

目录 一、引言 二、代码实现 三、思考 一、引言 在线程章节的 3.2 部分&#xff0c;我们曾经提到过线程池的实现 在当时的代码中&#xff0c;我们仅仅用的一个 int 类型的变量来表示这个“池”&#xff0c;用来存放任务 显然这个池太小了&#xff0c;如果下游线程很多&am…
阅读更多...
最新文章

Copyright @ 2022~2023