TorchServe 默认推理处理器¶
TorchServe 提供了以下推理处理程序。预期每个支持的模型都支持批量推理。
image_classifier¶
描述：处理在ImageNet数据集上训练的图像分类模型。
RGB图像
一批前5名预测及其对应的图像概率
有关更多详细信息，请参阅示例
image_segmenter¶
描述：处理在ImageNet数据集上训练的图像分割模型。
RGB图像
输出形状为 [N, CL H W]，其中 N 表示批次大小，CL 表示类别数量，H 和 W 分别表示高度和宽度。
有关更多详细信息，请参阅示例
object_detector¶
描述：处理目标检测模型。
RGB图像
一批检测到的类别列表和边界框列表
注意：我们推荐运行torchvision>0.6，否则对象检测器默认处理器将仅在默认GPU设备上运行
有关更多详细信息，请参阅示例
text_classifier¶
描述：处理在AG_NEWS数据集上训练的模型。
输入：文本文件
输入文本类。不支持批量处理
有关更多详细信息，请参阅示例
有关可用处理程序的更全面列表，请务必查看示例页面
常见功能¶
index_to_name.json¶
image_classifier, text_classifier and object_detector can all automatically map from numeric classes (0,1,2…) to friendly strings. To do this, simply include in your model archive a file, index_to_name.json, that contains a mapping of class number (as a string) to friendly name (also as a string). You can see some examples here:
贡献¶
我们欢迎新的贡献者，如果您使用案例没有被现有默认处理程序覆盖，请按照以下步骤进行贡献。
编写一个继承自BaseHandler的新类。将其作为单独的文件添加到
ts/torch_handler/更新
model-archiver/model_packaging.py添加到您的类名运行并更新 unit_tests 中的单元测试。像往常一样，在提交之前请务必运行 torchserve_sanity.py。