• 学习
    教程

    PyTorch教程中的最新内容

    学习基础知识

    熟悉PyTorch概念和模块

    Pytorch示例

    简洁的可部署的功能代码示例

    PyTorch 入门 - YouTube 系列教程

    通过我们引人入胜的YouTube教程系列掌握PyTorch基础知识

  • PyTorch文档
  • ExecuTorch文档
  • PyTorch生态
    TorchServe

    TorchServe 是一种高性能、灵活且易于使用的工具,用于在生产环境中为 PyTorch 模型提供服务。

    PyTorch on XLA Devices

    PyTorch 在具有 torch_xla 软件包的 XLA 设备(如 TPU)上运行。本文档介绍如何在这些设备上运行模型。

    TensorDict

    tensordict 是一个类似字典的类,它简化了对批量张量的操作,通过抽象定制的操作来增强代码的可读性、紧凑性和模块化,并通过叶子上的自动操作调度来减少错误。

    TorchX

    TorchX 是 PyTorch 应用程序的通用作业启动器。 TorchX 旨在为培训/研究和支持提供快速迭代时间 用于 E2E 生产 ML 管道。

    ExecuTorch

    ExecuTorch 是一个 PyTorch 平台,它提供基础设施,可在从 AR/VR 可穿戴设备到标准设备上的 iOS 和 Android 移动部署等任何地方运行 PyTorch 程序。

  • PyTorch库
    TorchAudio

    Torchaudio 是一个使用 PyTorch 进行音频和信号处理的库。它提供 I/O、信号和数据处理功能、数据集、模型实现和应用程序组件。

    TorchTune

    一个 PyTorch 原生库,专为微调大型语言模型 (LLM) 而设计。Torchtune 支持完整的微调工作流,并提供与流行的生产推理系统的兼容性。

    TorchText

    此库是 PyTorch 项目的一部分。PyTorch 是一个开源机器学习框架。torchtext 包由数据处理实用程序和自然语言的常用数据集组成。

    TorchVision

    此库是 PyTorch 项目的一部分。PyTorch 是一个开源机器学习框架。torchvision 软件包由常用的数据集、模型架构和计算机视觉的常见图像转换组成。

    TorchArrow

    TorchArrow 是一个Torch 张量的 Python DataFrame 库,用于深度学习中的数据预处理。它支持多个执行运行时和 Arrow 作为通用格式。

    TorchData

    一个包含常见模块化数据加载基元的 Beta 库,用于轻松构建灵活且高性能的数据管道。而且,还有一些功能仍处于原型阶段。

    TorchRec

    TorchRec是一个PyTorch域库,旨在提供大规模推荐系统(RecSys)所需的常见稀疏性和并行性基元。它允许作者使用跨多个 GPU 分片的大型嵌入表来训练模型。

    TorchRL

    torchrl 是一个开源的、Python 优先的 PyTorch 强化学习库,专注于高模块化和良好的运行时性能,为成本函数、返回和数据处理提供低级和高级 RL 抽象和可重用函数。

目录

1.0

PyTorch 功能示例 [ - ] [ + ]

  • 查看所有示例
  • 查看所有原型示例

PyTorch 简介 [ - ] [ + ]

  • [+] 了解基础知识
    • 快速入门
    • Tensors
    • 数据集和数据加载器
    • 变换
    • 构建神经网络
    • 使用 torch.autograd 进行自动微分
    • 优化模型参数
    • 保存并加载模型
  • [+] PyTorch 简介 - YouTube 系列
    • PyTorch 简介
    • PyTorch Tensors量简介
    • Autograd 的基础知识
    • 使用 PyTorch 构建模型
    • PyTorch TensorBoard 支持
    • 使用 PyTorch 进行训练
    • 使用 Captum 进行模型理解

学习 PyTorch [ - ] [ + ]

  • 使用 PyTorch 进行深度学习:60 分钟闪电战
  • 通过示例学习 PyTorch
  • torch.nn 到底是什么?
  • 从头开始的 NLP
  • 使用 TensorBoard 可视化模型、数据和训练
  • 在 PyTorch 中正确使用 non_blocking 和 pin_memory() 的指南

图片和视频 [ - ] [ + ]

  • TorchVision 对象检测微调教程
  • 计算机视觉迁移学习教程
  • 对抗性示例生成
  • DCGAN 教程
  • Spatial Transformer 网络教程
  • 优化 Vision Transformer 模型以进行部署
  • 使用 PyTorch 和 TIAToolbox 进行全玻片图像分类

音频 [ - ] [ + ]

  • 音频 I/O
  • 音频重采样
  • 音频数据增强
  • 音频特征提取
  • 音频特征增强
  • 音频数据集
  • 使用 Wav2Vec2 进行语音识别
  • Text-to-speech with Tacotron2
  • 使用 Wav2Vec2 强制对齐

后端 [ - ] [ + ]

  • ONNX 简介

强化学习 [ - ] [ + ]

  • 强化学习 (DQN) 教程
  • 使用 TorchRL 的强化学习 (PPO) 教程
  • 训练玩马里奥的 RL 代理
  • Pendulum:使用 TorchRL 编写环境和转换

在生产环境中部署 PyTorch 模型 [ - ] [ + ]

  • ONNX 简介
  • 使用 Flask 通过 REST API 在 Python 中部署 PyTorch
  • TorchScript 简介
  • 在 C++ 中加载 TorchScript 模型
  • (可选)将模型从 PyTorch 导出到 ONNX 并使用 ONNX 运行时运行它
  • Raspberry Pi 4 上的实时推理 (30 fps!

分析 PyTorch [ - ] [ + ]

  • 对 PyTorch 模块进行性能分析
  • 整体痕量分析简介
  • 使用 Holistic Trace Analysis 进行 Trace Diff

使用 FX 进行代码转换 [ - ] [ + ]

  • (测试版)在 FX 中构建卷积/Batch Norm 定影器
  • (测试版)使用 FX 构建简单的 CPU 性能分析器

前端 API [ - ] [ + ]

  • (测试版)PyTorch 中的通道上次内存格式
  • 正向模式自动微分 (Beta)
  • 雅可比矩阵、Hessian矩阵、hvp、vhp 等:组合函数变换
  • 模型集成
  • 每个样本的梯度
  • 使用 PyTorch C++ 前端
  • TorchScript 中的动态并行性
  • C++ 前端中的 autograd

扩展 PyTorch [ - ] [ + ]

  • PyTorch 自定义运算符
  • Custom Python Operators
  • 自定义 C++ 和 CUDA 运算符
  • 具有自定义功能的双后退
  • 使用自定义函数融合卷积和批量范数
  • 自定义 C++ 和 CUDA 扩展
  • 使用自定义 C++ 运算符扩展 TorchScript
  • 使用自定义 C++ 类扩展 TorchScript
  • 在 C++ 中注册 Dispatched 运算符
  • 在 C++ 中为新后端扩展调度程序
  • 通过 PrivateUse1 促进新的后端集成

模型优化 [ - ] [ + ]

  • 对 PyTorch 模块进行性能分析
  • 带有 TensorBoard 的 PyTorch Profiler
  • 使用 Ray Tune 进行超参数优化
  • 优化 Vision Transformer 模型以进行部署
  • 参数化教程
  • 修剪教程
  • (测试版)LSTM Word 语言模型上的动态量化
  • (测试版)BERT 上的动态量化
  • (测试版)用于计算机视觉的量化迁移学习教程
  • (测试版)PyTorch 中 Eager 模式的静态量化
  • Grokking PyTorch Intel CPU 性能的第一原则
  • Grokking PyTorch Intel CPU 性能的第一原则(第 2 部分)
  • 入门 - 使用 nvFuser 加速您的脚本
  • 带 Ax 的多目标 NAS
  • torch.compile 简介
  • 编译的 Autograd:为 torch.compile 捕获更大的向后图
  • 电感器 CPU 后端调试和分析
  • (测试版)实现具有缩放点积注意 (SDPA) 的高性能变压器