推理服务(Deployment)

服务部署

服务部署需要传入项目id和模型id,天机平台会自动选择合适的镜像触发部署,部署是异步分阶段的,不同部署状态详见接口说明 服务部署完成后就可以调用

  1. 创建部署create_deployment

获取服务列表

  1. 获取当前项目下的服务列表list_deployments

修改服务常驻状态

当前服务默认是无服务部署方式的,当最小服务数<=0时,服务一段时间内没有被调用后,系统会自动回收资源,开发者为了避免冷启动问题,可以设置服务最少实例数>0来维持服务的运行resident_deployment

修改服务名称

修改服务中文名称rename_deployment

调用服务

调用部署完成的服务接口,不熟悉参数的话可以通过get_service_api接口获得服务调用demo