模型测试
根据模型创建时或添加模型版本时所配置的运行环境,模型测试模块会自动将模型部署成在线服务。您可以在此测试模型运行是否正常,以便下一步部署至生产环境。
若您启动模型共享模式,其他用户也可以在共享中心试用您的模型。
测试任务
每次发送请求后,会生成一个测试任务。具体操作步骤:
在“模型管理页面>我的模型”或“模型详情页面>模型版本列表”中,单击操作项中的“测试”进入模型测试页。
根据模型输入中的参数示例文件\文本填写参数值,单击“发送请求”,然后等待模型返回结果。
如果发送多次请求,任务队列会按照发送请求的时间先后依次运行。您可以实时查看任务运行状态,并支持中途取消运行。
部署模型测试服务
每个用户对指定模型版本发送首次请求时,系统会自动进行启动计算实例进行模型部署,并基于模型文件包中的requirements.txt将依赖包安装至运行环境。
当测试服务空闲超过一定时长后,计算实例资源会被收回。在下次请求时会重复自动部署流程。
Last updated