eval dataset 命令组用于管理评测集:列出、查看、创建、更新和删除评测集,为评测集增删用例,并管理 TEA 评测集版本。评测集是实验的数据来源,其字段(如 input、reference_output)会在 eval run 中映射到评测目标与评估器。
这些子命令同时提供顶层别名,
eval 前缀可省略:agentkit eval dataset list 等价于 agentkit dataset list。下文示例使用较短的 agentkit dataset ... 形式。--project 只用于 Coze 评测后端;TEA 后端会忽略该参数。agentkit eval backend 确认评测后端和工作区。新增用例会写入远端评测集,输入中不要包含未获准用于评测的用户数据
命令组选项
这些选项位于dataset 与子命令之间,也适用于 eval dataset:
dataset list
列出评测集。dataset show
查看某个评测集的详情,包括 schema、版本信息和用例条目。dataset create
创建评测集。字段一经创建即固定,用例的键必须与其一致。dataset update
更新 TEA 评测集的名称或描述。dataset update 仅支持 TEA 评测后端。dataset add
向评测集添加一个或多个用例。Coze 后端可使用扁平{field: value} 对象;TEA 后端可使用完整 turn 结构,也可用 --field 构造单轮文本用例。
items.json 是 TEA 完整用例格式;Coze 文件使用扁平对象,例如 [{"input":"Question","reference_output":"Answer"}]
items.json
dataset remove
从评测集中移除一个或多个用例。dataset delete
删除一个评测集。dataset version list
列出 TEA 评测集版本。dataset version 子命令仅支持 TEA 评测后端。dataset version create
为 TEA 评测集创建一个已提交版本。agentkit dataset show qa-set --items 20 核对字段和用例,再在 TEA 中创建版本。修改用例不等于更新已有实验使用的版本;可复现评测应显式保存并传入 --dataset-version