快速计算丨在混合云上使用Alluxio可为您节省的基础设施投入成本 →

010-82449668

EN 中文

在当下技术驱动的时代,人工智能(AI)不断发展,对许多领域产生颠覆性的影响。PyTorch 作为一款开源的机器学习框架,与AI密切相关,现在可以说几乎已经占据了深度学习框架的半壁江山,成为许多企业/机构开发和部署深度学习模型的首选。

模型训练是机器学习流程中计算最密集的阶段,需要持续进行性能优化。训练过程可能会由于I/O、数据操作、GPU和CPU处理等诸多因素而变得缓慢,因此对训练性能进行调优往往既困难又耗时。

本宝典中介绍的技术适用于对PyTorch的基础设施及其使用的资源进行调优。这些调优技巧适用于所有模型算法,包括CNNs、RNNs、GANs、transformers(如GPT、BERT)等,且适用于所有领域,如计算机视觉、自然语言处理等。

主要内容:

  • PyTorch的基础知识,包括张量、计算图、自动微分以及神经网络模块的工作原理;
  • 影响机器学习流程中模型训练性能的因素;
  • 优化PyTorch模型训练的分步过程;
  • 在数据加载、数据操作、GPU处理和CPU处理方面的最佳调优技巧,附有代码示例。通过这些技巧,平均训练epoch时长可缩短至原先的1/5-1/10;
  • 在真实生产环境中使用Alluxio作为数据访问层为模型训练赋能的案例研究。


立即下载《PyTorch模型训练性能调优宝典》。