首页 > 编程知识 正文

pytorch cuda(torch送cuda数据)

时间:2023-05-05 03:24:45 阅读:105177 作者:1088

机器心脏报告

参与:魔鬼,船

昨天,PyTorch团队发布了PyTorch 1.7的1.7版本,这个版本增加了很多新功能,比如支持CUDA 11、Windows分布式训练、增加了一个新的支持快速傅里叶变换(FFT)的API等。

Pytorch版本包含许多新的API,例如支持与NumPy兼容的FFT操作、性能分析工具,以及基于分布式数据并行(DDP)和远程过程调用(RPC)的分布式训练的重要更新。

此外,一些功能已经更新到稳定版本,包括自定义C类、内存分析器、通过自定义类xsdwl对象的扩展、RPC中的用户异步函数以及torch.distributed中的许多其他功能(如Per-RPC超时、DDP动态分桶、RRef helper)。

此次更新的亮点包括:

CUDA 11由PyTorch官方支持;对于自动签名分析器,更新和增加了RPC、TorchScript和Stack trace的分析和性能。(beta)支持通过torch.fft进行与NumPy兼容的FFT运算;(原型版)支持NVIDIA A100 GPU和原生TF32格式;(原型版)支持Windows系统上的分布式训练。Torchvision(稳定版)transforms支持xsdwl输入、批量计算、GPU和TorchScript(稳定版)JPEG和PNG格式原生图像I/O (beta版)新的视频阅读器APItorchaudio(稳定版)增加了语音录制(wav2letter)、支持语音到语音(WaveRNN)和源分离(ConvTasNet)(注:自PyTorch 1.6版本开始,py torch功能分为稳定版、beta版和原型版)。

新功能

与之前的版本相比,PyTorch 1.7增加了很多新功能,包括Python API、C API、Autograd、CUDA、量化等。

比如Python API增加了很多新的命名空间、运算符和API扩展,CUDA增加了TF32支持等。并且量化增加了新的量化操作和FP16量化支持等。

PyTorch 1.7的新功能,详见https://github.com/pytorch/pytorch/releases/tag/v1.7.0。

开发者对PyTorch 1.7的态度

一些开发人员赞赏PyTorch 1.7“支持Windows分布式培训”的新功能:

并参见“PyTorch对CUDA 11的支持”:

有些人还是趁机表达了PyTorch,并列出了他们更喜欢PyTorch的原因,比如易读的错误报告、直观的代码、易于实验。

当然,改版之路似乎永无止境。一些开发人员提出了自己的要求,比如fp32卷积,TensorFlow有但PyTorch没有的语义版本控制:

此时距离PyTorch 1.6的1.6版本发布只有三个月了,不知道下一个版本的PyTorch会给我们带来什么惊喜呢?

参考链接:

https://pytorch.org/blog/pytorch-1.7-released/

https://github.com/pytorch/pytorch/releases/tag/v1.7.0

https://www . Reddit.com/r/machine learning/comments/jj4sr 7/d _ py torch _ 17 _ released _ w _ cuda _ 11 _ new _ API _ for _ ffts/

版权声明:该文观点仅代表作者本人。处理文章:请发送邮件至 三1五14八八95#扣扣.com 举报,一经查实,本站将立刻删除。