昇腾PyTorch开发

昇腾PyTorch开发

本学习路径通过理论和实操结合的方式对昇腾PyTorch模型迁移进行介绍,通过对本学习路径的学习,学员将对昇腾PyTorch迁移方法、性能以及精度调优方法、昇腾PyTorch三方库等有个初步认识。

4个阶段 | 17门课程 | 17个课时

本学习路径通过理论和实操结合的方式对昇腾PyTorch模型迁移进行介绍,通过对本学习路径的学习,学员将对昇腾PyTorch迁移方法、性能以及精度调优方法、昇腾PyTorch三方库等有个初步认识。

4个阶段 | 17门课程 | 17个课时

第一阶段:昇腾PyTorch迁移

第一阶段:昇腾PyTorch迁移

昇腾PyTorch模型开发流程

本课程学习将带领您了解在昇腾AI处理器上进行PyTorch模型迁移训练的整体流程,包括环境配置和模型训练。

昇腾PyTorch入门与配置

本课程学习了解昇腾PyTorch扩展插件的基本概念、架构和主要特性。了解如何在昇腾平台上配置和安装torch_npu,掌握快速安装与源码编译安装两种方式,尤其是源码编译安装中的容器场景和物理机及虚拟机场景的具体步骤。

昇腾PyTorch迁移入门

本课程学习了解昇腾NPU平台的基本概念,掌握PyTorch模型从GPU迁移到昇腾NPU的总体思路和迁移的四个阶段。了解如何将PyTorch模型从其他平台(如GPU)迁移到昇腾平台(NPU),掌握迁移适配的基本流程和脚本迁移的不同方法。

昇腾PyTorch模型迁移与调试

本课程学习了解昇腾PyTorch模型迁移适配的基本流程,以及关键特性的适配方法;了解昇腾PyTorch模型迁移的调试方法,了解在模型迁移适配过程中遇到问题时,如何确认问题代码发生的位置以及原因。

昇腾PyTorch脚本迁移方法

本课程学习了解自动迁移的基本概念,掌握自动迁移的使用方法及其使用约束,学习如何通过自动迁移工具进行脚本迁移;掌握如何使用工具将基于GPU的PyTorch训练脚本迁移至昇腾NPU平台。

昇腾PyTorch模型脚本配置

本课程学习了解如何在单机单卡环境下配置昇腾PyTorch模型的脚本,实现模型的迁移适配;了解如何在单机多卡环境下配置模型训练脚本;详细介绍多机多卡环境下模型脚本的配置方法。

PyTorch算子适配开发课程

本课程主要介绍昇腾PyTorch适配框架的获取、编译和安装流程,以及如何使用PyTorch适配框架进行TBE算子的适配开发。

第二阶段:昇腾PyTorch调优

第二阶段:昇腾PyTorch调优

昇腾PyTorch性能调优工具

本课程学习如何使用Ascend PyTorch Profiler进行性能数据采集,了解其技术细节和方法,并掌握实际操作步骤;了解昇腾PyTorch性能比对工具的基本概念、使用场景以及如何使用该工具进行性能数据的采集和比对、了解昇腾PyTorch性能比对工具的基本使用方法。

昇腾PyTorch模型性能调优与优化

本课程了解如何在昇腾AI处理器上进行模型性能调优、大模型并行训练策略、昇腾模型性能调试中的基本性能指标;介绍昇腾模型性能调试中所使用的主要性能分析工具;了解如何在昇腾平台上对PyTorch模型进行性能优化、昇腾模型性能调试中的并行策略建议方法。介绍如何使用融合优化器来调试和提升昇腾模型的性能。

昇腾PyTorch模型精度调试与优化

本课程学习了解昇腾PyTorch模型计算精度的一些基本概念;掌握在昇腾AI处理器上训练PyTorch模型时如何进行精度调试,了解精度调试的基本流程、大模型精度问题的常见来源、单精度浮点数、半精度浮点数的特点及其在大模型训练中的应用,了解几种大模型并行计算方式以及相应的精度问题。

基于MindStudio的精度与性能调优专题

本课程主要介绍昇腾AI平台训练模型和推理应用开发中调优的方法和工具,帮助开发高效解决训练模型或推理应用遇到的精度和性能问题。

第三阶段:昇腾PyTorch三方库

第三阶段:昇腾PyTorch三方库

OpenCLIP开发入门

本课程学习如何在昇腾环境下安装open_clip 库,OpenCLIP 是 OpenAI 提出的 CLIP(Contrastive Language-Image Pre-training)的开源实现,旨在简化模型的训练和使用。它结合了图像和文本数据,通过对比学习的方式学习到两种模态之间的关联,从而可以实现多种任务。

OpenCompass入门与实践

本课程学习能够完成昇腾环境下Python虚拟环境的创建,以及OpenCompass的安装与验证。掌握这些步骤将帮助你顺利开始使用OpenCompass进行各种AI应用的开发;将学会快速入门OpenCompass× 昇腾的使用方法,通过配置、启动评估和结果可视化等步骤,轻松进行模型评估。

timm库快速上手

本课程将指导您如何在昇腾环境中安装和配置timm库,以启用模型训练和推断功能;帮助你快速了解和使用timm库进行模型的单卡/分布式训练、模型验证以及模型推理。

第四阶段:昇腾PyTorch实践

第四阶段:昇腾PyTorch实践

计算机视觉模型实践

本课程旨在全面介绍计算机视觉领域的多个重要模型,包括LightweightOpenPose、BiT、ShuffleNetV2、ConvNext、YOLOv9、CLIP、EfficientNet、vit_msn、ResNet、BEiT、ViT和YOLOv3,通过实验帮助开发者掌握这些模型的特点、工作原理及应用场景。

语音识别与翻译模型实践

本课程通过介绍Whisper、wav2vec2和DeepSpeech2等模型,帮助开发者深入理解自动语音识别(ASR)和语音翻译领域的前沿技术及其应用。

NLP模型实践与理解

本课程旨在全面介绍自然语言处理领域的多个重要模型,包括TextCNN、DeBERTa、XLNet、Roberta、BERT、DeBERTa-v3、DistilBERT、ALBERT、MobileBERT、CamemBERT和T5,通过一系列带有实验的课程,帮助学员深入理解各模型的特点、应用及优化策略。

入门到精通

产品
探索更多学习路径
进入开发者学堂