推理服务(Deployment)
服务部署
服务部署需要传入项目id和模型id,天机平台会自动选择合适的镜像触发部署,部署是异步分阶段的,不同部署状态详见接口说明 服务部署完成后就可以调用
- 创建部署
create_deployment
获取服务列表
- 获取当前项目下的服务列表
list_deployments
修改服务常驻状态
当前服务默认是无服务部署方式的,当最小服务数<=0时,服务一段时间内没有被调用后,系统会自动回收资源,开发者为了避免冷启动问题,可以设置服务最少实例数>0来维持服务的运行resident_deployment
修改服务名称
修改服务中文名称rename_deployment
调用服务
调用部署完成的服务接口,不熟悉参数的话可以通过get_service_api接口获得服务调用demo