在运行Transformer工程的时候,执行如下语句时出现题目中的报错。
from torchtext.data import Iterator
这个问题解决起来比较曲折,记录下来以备后续查阅。
原来的环境安装的是最新的pytorch,2.x版本,而且该环境在另一个大型Transformer工程中是已经运行通过,但是当用该环境运行一个小的Transformer工程时,就开始出现各种版本不兼容的问题。
出现题目中的错误,第一个想法就是对torchtext降版本,参考网上的解决方案将版本从0.17降到了0.9,完了之后,该问题仍然存在。
接下来,按照pytorch、torchvision、torchaudio、torchtext版本对应关系,重新起环境,安装了Python 3.8、pytorch 1.7.0,但是到安装torchvision、torchaudio的时候,提示没有匹配的版本:
从报错中看,能找到对应torchivisio和torchaudio的最老torch版本是torch 1.8.0,好,那就它吧,于是重新安装torch 1.8.0:
pip install torch==1.8.0 torchvision torchaudio -i https://pypi.tuna.tsinghua.du.cn/simple
这里只需要指定torch版本,安装过程会自动去匹配相应的torchvision和torchaudio版本。
以上安装完成后,开始安装torchtext,按照如下表版本对应关系,应该安装torchtext 0.9,但之前0.9版本也存在标题中的问题,因此尝试安装torchtext 0.8。
torchtext 0.8在安装过程中提示找不到匹配项:
于是索性按照工程requirements文件中要求的torchtext==0.3.1来进行安装,安装是成功了,但是执行from torchtext.data import Iterator时又出现少模块的报错(提示缺少一个名为six的功能模块),版本太老,很多功能没有集成进来,太麻烦。
接着struggle,在这里看到有人用torchtext 0.6说可以,于是又卸载掉torchtext 0.3.1,安装torchtext 0.6,这次竟然work了!
接下来又安装了几个缺失的模块,基本就是少啥装啥,对版本没有太高的要求,直接pip install XXX,安装完成后,工程终于能正常运行了。