bert我的理解从它的名字可以看出来,它是一种双向的编码器解码器结构,也就是说它非常的高效,非常的高级,在它非常小的麻雀腹内居然五脏俱全。所以按道理来说,它应该是比gpt模型更加全面。所以我们有学习它的必要。
安装基本依赖
#安装mindnlp 0.4.0套件
!pip install mindnlp==0.4.0
!pip uninstall soundfile -y
!pip install https://ms-release.obs.cn-north-4.myhuaweicloud.com/2.3.1/MindSpore/unified/aarch64/mindspore-2.3.1-cp39-cp39-linux_aarch64.whl --trusted-host ms-release.obs.cn-north-4.myhuaweicloud.com -i https://pypi.tuna.tsinghua.edu.cn/simple
其中soundfile是音频和ai的库,情感识别的用途,怕冲突,需要卸载
中文的基础pretained model
数据集格式非常简单使用了tsv
开始了美丽的训练
![在这里插入图片描述](https://i-blog.csdnimg.cn/direct/305138cde67b4ce4a3c07b3a4da918a7.png
评估一下
其实也就是测试了,使用了。
计算结果从设备tensor到numpy,再取最大概率的标签