最近更新时间:2024.05.15 01:04:44
首次发布时间:2023.06.27 23:49:24
注册账号:在使用火山引擎的服务之前需要用户注册火山引擎账号并完成相关认证,详见注册账号及实名认证。
开通服务:联系客服人员开通火山方舟大模型服务平台。
创建子账号:为更好地进行权限管理,建议使用主账号前往【访问控制】-【用户】创建若干子账号并通过预置策略为其分配适当的权限。火山方舟2.0的系统预置策略如下:
策略名称 | 描述 |
---|---|
ArkFullAccess | 火山方舟(Ark)管理员用户,拥有所有Ark服务的权限。 |
ArkReadOnlyAccess | 火山方舟(Ark)只读用户,拥有Ark服务的只读权限。 |
ArkLabelAccess | 火山方舟(Ark)标注用户,拥有标准模块的所有的权限。 |
访问控制 IAM (Identity and Access Management) 是一套权限管理系统,是火山引擎提供的免费服务之一。
您可以为火山引擎账号(主账号)创建IAM用户(子账号),并根据不同用途授予子账号相应的访问权限,以达到不同企业员工之间的权限隔离。
IAM可以帮助您实现资源的分权管理,提高管理效率,降低信息泄露风险。
如果火山引擎账号已经能满足您的要求,不需要通过IAM进行权限管理,不影响使用火山方舟的其他功能。
关于权限管理的详细实践,请参见使用IAM进行权限控制
说明
完成账号与权限设置后,进入火山方舟控制台(访问地址),在模型广场查看目前已发布的大模型,点击某个模型卡片可查看该模型的详细信息。更多详情可见模型广场介绍。
模型仓库展示所有精调产出的模型,您可以在此处管理自己的模型,查看模型的基本信息、接入点信息,发起评测、进行推理体验等,更多详情可见管理自定义模型。
如果您对模型广场中某个已发布的模型感兴趣或想快速验证精调模型的效果,可以进入体验中心进行推理试用。更多详情可见模型体验介绍。
模型广场中的模型支持 API 调用,您可以进入模型详情页点击右上角的 API 调用查看相关的调用教程。
火山方舟允许用户上传自己的数据进行模型精调,只需简单的几个步骤即可产出更加贴合客户业务场景的模型。
在创建精调任务之前需要完成数据的准备,目前支持 JSONL 格式的数据集,详细说明请参考模型精调数据集格式说明。目前支持两种数据上传的方式:
从本地上传数据:适用于小规模的数据集。
从 TOS 中导入数据:需先将数据上传至 TOS,具体操作可见TOS控制台快速入门,然后在创建精调任务时选择对应的 TOS 目录。当数据集规模较大时建议使用这种方式,避免在上传过程中因网络问题导致传输中断。
数据准备好后,可以去创建模型精调任务,平台提供两种入口,您可以按照自己的需求进行选择。
进入创建精调任务页面,按实际情况进行任务名称、描述、基础模型、数据集等信息的选择或填写。
数据填写完毕后,点击提交精调任务,即可完成任务创建。 更多操作,可见创建模型精调任务。
进入模型精调列表页,可查看已提交的所有模型精调任务。
点击某个任务名称,即可进入对应的详情页,可查看基本信息、效果指标、日志、时间线、模型产出信息。
更多操作,可见查看并管理模型精调任务。
模型训练完成后,可以去创建模型评测任务,平台提供三种入口,您可以按照自己的需求进行选择。
进入创建评测任务页面,按实际情况进行任务名称、描述、评测模型、数据集等信息的选择或填写。
数据填写完毕后,点击提交评测任务,即可完成任务创建。 更多操作,可见创建模型评测任务。
进入模型评测列表页,可查看已提交的所有模型评测任务。
点击某个任务名称,即可进入对应的详情页,可查看基本信息、评测报告、日志。
更多操作,可见管理评测任务。
在精调任务完成训练后,可以通过接入模型部署对应的精调模型版本。
更多操作,可见使用精调后的模型进行在线推理 。