admin 管理员组

文章数量: 1086019

torch1.7 以下版本不支持Windows下的分布式训练，会报错 AttributeError: module ‘torch.distributed‘ has no attribute ‘init_process_group‘ 。

步骤：

1、将本机torch版本升到1.7.0以上，torchvision升到对应的0.8.0版本以上。（1.5~1.8 版本的 torch 代码基本都兼容）

温馨提示：建议离线下载 torch1.7.1 版本，torchvision0.8.2 版本。

下载链接如下：

https://download.pytorch/whl/

2、更换torch版本之后，在Windows下运行之前，将 init_process_group 函数的参数更改为以下内容：

torch.distributed.init_process_group(	backend="gloo",

本文标签： 分布式 方法 Windows pytorch

版权声明：本文标题：Windows下 pytorch 分布式训练方法 内容由网友自发贡献，该文观点仅代表作者本人， 转载请联系作者并注明出处：http://roclinux.cn/b/1734976298a1617181.html， 本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容，一经查实，本站将立刻删除。