最近更新时间:2024.05.13 11:39:57
首次发布时间:2022.11.03 20:11:05
本文介绍了如何通过边缘智能控制台创建自定义推理模型。
除了使用边缘智能提供的官方模型,您也可以创建自定义模型。边缘智能允许创建以下几类自定义模型:
您已经开通了边缘智能。相关操作,请参见开通边缘智能。
登录边缘智能控制台。
在左侧导航栏顶部的 我的项目 区域,选择您的项目。
在左侧导航栏,选择 边缘推理 > 模型管理。
在 自定义模型 页签下,单击 新建模型。
在 新建模型 页面,参照配置说明完成相关参数的设置,然后单击 确定。
完成以上操作后,您可以在模型管理列表查看刚刚创建的模型。
新建的模型还无法使用。接下来,您还需要为该模型创建并发布版本,才可以使模型生效。相关操作,请参见为自定义模型创建版本。
配置项 | 子配置项 | 说明 |
---|---|---|
名称 | N/A | 为模型设置名称。输入要求如下:
|
框架 | N/A | 选择模型的类别或框架。可选项:
|
模型分类 | N/A | 选择模型的用途。可选项:图像分类、物体检测、图像分割、语义分割、姿态估计、大模型、其他。 |
描述 | N/A | 为模型添加描述。 |
输入、输出 | 名称 | 输入、输出参数的名称。输入要求如下:
|
类型 | 输入、输出参数的类型。 | |
形状 | 输入、输出数据的形状信息。每输入一个维度后,按回车确认。允许输入多个维度。
在使用机器推理框架或库时,您需要根据具体的要求设置输入和输出数据的形状,以确保数据能够被正确地处理和计算。 | |
转换形状 | 输入、输出数据的转换形状信息。每输入一个维度后,按回车确认。允许输入多个维度。 说明 当 框架 为 Ensemble 时,您无需配置该参数。 | |
格式 | 输入数据的格式。可选项:
说明
| |
不规则处理 | 是否允许该张量在动态创建的批处理中是不规则的。
| |
是否可选 | 该输入是否对模型执行是可选的。 | |
模型配置 | N/A | Ensemble 模型中包含一个或多个已有模型。该参数表示 Ensemble 模型中输入、输出参数的映射关系。关于 Ensemble 模型配置的具体方法,请参见 模型组合配置说明。 说明 只有当 框架 为 Ensemble 时,您需要配置该参数。 |
当您创建模型组合(框架 为 Ensemble)时,您需要完成模型配置。以下是模型配置的具体方法:
说明
您可以参考配置示例,了解 Ensemble 模型配置的逻辑。
注意
您可以参考以下示例,以便理解 Ensemble 模型的配置逻辑。
假设您要将两个模型组装在一起使用,它们依次是:前处理模型、推理模型。
您希望前处理模型对数据进行预处理后,将数据流转到推理模型进行推理。
为满足该需求,您可以创建一个 Ensemble 模型。Ensemble 模型包含 2 个输入(src-1 和 src-2)和 1 个输出(des-1)。它的数据处理逻辑如下图所示。
在这个场景下,Ensemble 模型的 Tensor 可以按照如下方式配置。其中,m-pre 表示前处理模型、m-post 表示推理模型。