⚠️ 通知：有限维护

此项目不再积极维护。现有版本仍可使用，但没有计划的更新、错误修复、新功能或安全补丁。用户应注意漏洞可能不会得到解决。

TorchServe REST API

TorchServe 对推理和管理调用都使用了 RESTful API。此 API 符合 OpenAPI 规范 3.0。您可以使用 swagger codegen 轻松生成适用于 Java、Scala、C# 或 Javascript 的客户端代码。

TorchServe 启动时，会启动两个 Web 服务

• 推理 API

• 管理 API

• 指标 API

• 工作流推理 API

• 工作流管理 API

默认情况下，TorchServe 在端口 8080 监听推理 API，在端口 8081 监听管理 API。默认情况下，这两个 API 都只能从 localhost 访问。要启用从远程主机访问，请参阅 TorchServe 配置。