工具介绍与任务方法
OpenEvals
OpenEvals 为大语言模型应用提供评估构建组件,可使用语言模型按评价提示词判断应用输出,并通过自定义参数与评价要求适配具体任务。
OpenEvals 能做什么
OpenEvals 为大语言模型应用提供评估构建组件,可使用语言模型按评价提示词判断应用输出,并通过自定义参数与评价要求适配具体任务。
- 语言模型与智能体质量评估及回归检查
如何使用 OpenEvals
检查应用回答是否足够简洁
准备输入
- 应用收到的真实输入、对应实际输出和明确的简洁性要求。
- 已安装 OpenEvals 并配置评审模型访问凭据的环境。
操作步骤
- 安装 OpenEvals,配置模型访问,选择简洁性提示词并创建 LLM-as-judge 评估器。
- 向评估器提交应用的输入和输出,保留每个样本的对应关系。
- 读取返回的 score 和 comment,检查低分样本并依据任务要求复核是否确实存在冗余内容。
预期交付物
- 每个样本的简洁性判断与评审说明。
示例使用外部语言模型进行评审,模型凭据与可用性需自行配置;不同评估器可能还需要参考答案,提示词和参数应对应本次检查目标,模型评语仍需复核。
开始前需要了解
账号权限、费用与可用功能请以官方入口的当前说明为准。重要结果应先检查,再用于实际工作。