部署自定义模型

本文介绍了如何通过边缘智能控制台将自定义模型部署到一体机。

前提条件

您已经为自定义模型创建并发布了模型版本。相关操作，请参见为自定义模型创建版本。

准备工作

如果要在一体机上部署加密的 ONNX 模型文件，您必须先将加密时使用的密码文件（key.json）存放到一体机的指定路径，然后再部署对应的模型版本。否则，一体机将无法识别您部署的模型文件，导致模型服务无法正常运行。更多信息，请参见 ONNX 模型文件加密说明。

上传 ONNX 模型密码文件到一体机

1. 远程登录您计划部署 ONNX 加密模型文件的一体机。相关操作，请参见远程登录一体机。

2. 在 /etc 目录创建文件夹（ver_infer），用于存放加密密码文件。

   mkdir -p /etc/vei_infer
   

3. 前往 /etc/vei_infer 目录，然后使用上传文件功能，将 key.json 文件上传到当前目录。
   

操作步骤

1. 登录边缘智能控制台。

2. 在左侧导航栏顶部的 我的项目 区域，选择您的项目。

3. 在左侧导航栏，选择 边缘推理 > 模型管理。

4. 在 自定义模型 列表，找到您的模型，单击模型名称。

5. 在模型详情页面，单击 模型服务 页签，然后单击 部署模型服务。

6. 在 部署模型服务 页面，完成相关参数的设置，然后单击 确认。
   具体参数说明，请参见部署模型服务。

完成以上操作后，您可以在 模型服务 列表查看已经部署的模型服务。当模型服务的状态变为 运行中，表示模型服务已经部署成功。