TorchScript 概述¶
ExecuTorch 是一项端到端解决方案，用于在移动设备和边缘设备（包括可穿戴设备、嵌入式设备和微控制器）上启用本地推理功能。它是 PyTorch Edge 生态系统的一部分，能够高效地将 PyTorch 模型部署到边缘设备。
ExecuTorch 的关键价值主张包括：
可移植性: 与各种计算平台的兼容性，从高端智能手机到高度受限的嵌入式系统和微控制器。
生产力: 使开发者能够使用相同的工具链和开发工具，从PyTorch模型的编写和转换，到调试和部署到各种平台。
性能: 为最终用户提供无缝且高性能的体验，得益于轻量级运行时和充分利用CPU、NPU和DSP等硬件能力。
为什么选择ExecuTorch?¶
支持设备端人工智能面临独特的挑战，包括多样化的硬件、关键的电源需求、低/无网络连接以及实时处理需求。这些限制在过去阻碍或减缓了可扩展且高性能的设备端人工智能解决方案的创建。我们设计了ExecuTorch，在行业合作伙伴如Meta、Arm、Apple和Qualcomm的支持下，使其具有高度可移植性，并在不牺牲性能的前提下提供卓越的开发者生产力。
ExecuTorch与PyTorch Mobile（Lite Interpreter）有什么不同？¶
PyTorch Mobile 使用 TorchScript 来 允许 PyTorch 模型在资源有限的设备上运行。ExecuTorch 具有显著更小的内存占用和动态内存开销，从而在性能和可移植性方面优于 PyTorch Mobile。此外，ExecuTorch 不依赖于 TorchScript，而是利用 PyTorch 2 编译器和导出功能，用于在设备上执行 PyTorch 模型。
了解更多关于 ExecuTorch 的深入技术概述主题：