admin管理员组

文章数量:1531745

已解决：KeyError: ‘attention_mask’

调用bert模型预训练时报错KeyError: ‘attention_mask’
已知是transformers与tokenizers的版本号不匹配，导致attention_mask丢失
可使用 pip show 包查看对应版本号
Name: transformers
Version: 2.8.0
Summary: State-of-the-art Natural Language Processing for TensorFlow 2.0 and PyTorch
Home-page: https://github.com/huggingface/transformers
Author: Thomas Wolf, Lysandre Debut, Victor Sanh, Julien Chaumond, Google AI Language Team Authors, Open AI team Authors, Facebook AI Authors, Carnegie Mellon University Authors
Author-email: thomas@huggingface.co
License: Apache
Location: c:\programdata\anaconda3\envs\win_torch\lib\site-packages
Requires: sacremoses, regex, requests, tqdm, numpy, sentencepiece, boto3
Required-by:

Name: tokenizers
Version: 0.5.2
Summary: Fast and Customizable Tokenizers
Home-page: https://github.com/huggingface/tokenizers
Author: Anthony MOI
Author-email: anthony@huggingface.co
License: Apache License 2.0
Location: c:\programdata\anaconda3\envs\win_torch\lib\site-packages
Requires:
Required-by: transformers

目前已知 transformers=2.8.0，tokenizers=0.5.2，或 transformers=3.4.0，tokenizers=0.9.2

可以解决此问题

本文标签： KeyErrorattentionmask

版权声明：本文标题：已解决：KeyError ‘attention_mask‘ 内容由热心网友自发贡献，该文观点仅代表作者本人， 转载请联系作者并注明出处：https://m.elefans.com/dianzi/1726826114a1086098.html， 本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容，一经查实，本站将立刻删除。