Skip to main content
eval dataset 命令组用于管理评测集:列出、查看、创建、更新和删除评测集,为评测集增删用例,并管理 TEA 评测集版本。评测集是实验的数据来源,其字段(如 input、reference_output)会在 eval run 中映射到评测目标与评估器。
这些子命令同时提供顶层别名,eval 前缀可省略:agentkit eval dataset list 等价于 agentkit dataset list。下文示例使用较短的 agentkit dataset ... 形式。--project 只用于 Coze 评测后端;TEA 后端会忽略该参数。
先运行 agentkit eval backend 确认评测后端和工作区。新增用例会写入远端评测集,输入中不要包含未获准用于评测的用户数据

命令组选项

这些选项位于 dataset 与子命令之间,也适用于 eval dataset:

dataset list

列出评测集。

dataset show

查看某个评测集的详情,包括 schema、版本信息和用例条目。

dataset create

创建评测集。字段一经创建即固定,用例的键必须与其一致。
output 通常由被评测的目标 Runtime 在实验中产生,因此不必放进评测集 schema。评测集一般只需 input 与 reference_output。

dataset update

更新 TEA 评测集的名称或描述。
dataset update 仅支持 TEA 评测后端。

dataset add

向评测集添加一个或多个用例。Coze 后端可使用扁平 {field: value} 对象;TEA 后端可使用完整 turn 结构,也可用 --field 构造单轮文本用例。
以下 items.json 是 TEA 完整用例格式;Coze 文件使用扁平对象,例如 [{"input":"Question","reference_output":"Answer"}]
items.json

dataset remove

从评测集中移除一个或多个用例。
该命令会从评测集中删除指定用例。执行前核对评测集和用例 ID;省略 --yes 时 CLI 会要求确认。

dataset delete

删除一个评测集。
该命令会删除整个评测集。执行前核对目标;省略 --yes 时 CLI 会要求确认。

dataset version list

列出 TEA 评测集版本。
dataset version 子命令仅支持 TEA 评测后端。

dataset version create

为 TEA 评测集创建一个已提交版本。
添加后先用 agentkit dataset show qa-set --items 20 核对字段和用例,再在 TEA 中创建版本。修改用例不等于更新已有实验使用的版本;可复现评测应显式保存并传入 --dataset-version
最后修改于 2026年9月19日