evals.json 4.3 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445
  1. {
  2. "skill_name": "verify-rotator",
  3. "evals": [
  4. {
  5. "id": 1,
  6. "prompt": "我想运行不带参数的 /verify-rotator。这里是模拟状态:已暂存 CLAUDE.md 的说明文字修改,另有未跟踪的 docs/validation-note.md;没有源码、配置或测试改动。请基于这个快照给出验证范围与理由,只做计划,不执行项目命令。",
  7. "expected_output": "基于给定模拟快照,同时考虑已暂存与未跟踪的纯说明改动;计划核对事实、路径和命令,不安排单测或扩大到 all,不声称本次验证通过。",
  8. "files": [],
  9. "expectations": [
  10. "范围同时包含已暂存的 CLAUDE.md 说明修改与未跟踪的 docs/validation-note.md,不仅根据普通 diff 判断改动。",
  11. "将验证限定为文档事实、路径和命令的核对,不因缺省参数安排单测或扩大到 all。",
  12. "依据给定模拟快照制定计划,不用声称读取到的真实工作区状态替换模拟输入。",
  13. "明确这是未执行的计划,不报告本次测试通过、已验证文件内容或虚构成功计数。"
  14. ]
  15. },
  16. {
  17. "id": 2,
  18. "prompt": "/verify-rotator router。这次修改的是 build_router_package.sh。模拟预检结果:Python、sh、tar/gzip 可用,Node/jq 不可用;cfst_linux_armv5 目录存在,但其中没有 cfst 文件,BusyBox 输入也不存在。请列出可执行的验证计划、受阻项及原因,不执行命令。",
  19. "expected_output": "列出 Router 源码契约、Shell 语法及打包清理保护测试的计划;cfst 实际文件和 BusyBox 缺失只阻塞 SSOT 打包,不因 Node/jq 不可用阻塞无关项。不运行整组 Server,不用打包脚本 --help 探测,不把计划写成通过结果。",
  20. "files": [],
  21. "expectations": [
  22. "计划包括 sh 语法检查及 Router 的原子写入、零速过滤、cfst 参数支持三项源码契约检查。",
  23. "纳入打包前置失败不误删既有临时目录的清理保护测试,明确它无需 cfst/BusyBox,而不因此运行整组 Server。",
  24. "识别 cfst 目录存在但实际 cfst 文件缺失以及 BusyBox 缺失,将 SSOT 打包测试列为受阻,而非宣称资产齐全。",
  25. "Node/jq 缺失不阻塞 Router 的 sh 语法、Python 源码契约和清理保护检查。",
  26. "不建议用打包脚本 --help 探测、不伪造资产、不执行真实测速或使用 --write-back 回写源配置。",
  27. "明确可执行计划与因依赖受阻的项,且不把任何计划项记为本次已通过。"
  28. ]
  29. },
  30. {
  31. "id": 3,
  32. "prompt": "/verify-rotator all,先给计划和状态报告,不执行任何命令。模拟新增文件 tests/test_remote_smoke.py 在模块顶层调用 urllib.request.urlopen(\"https://example.invalid/status\")。附带的历史日志有一个 unittest 加载 ERROR,其余组尚未运行;jq 输出了项目 Hook 命令,但没有当前会话触发记录。请说明哪些检查可以纳入、哪些还不能,并准确整理已有证据。",
  33. "expected_output": "保持受控 all,先静态审查新测试,不导入有外部请求副作用的模块、不运行 discovery,并保留时间窗口用例排除。准确区分历史加载 ERROR、尚未执行与仅有注册证据的 Hook;不宣称全套通过或 Hook 已加载,不生成没有证据的成功计数。",
  34. "files": [],
  35. "expectations": [
  36. "将 all 解释为受控组并集而非 discovery,并保留 test_server_mode_adaptive_interval_window 的默认排除。",
  37. "识别新增模块的顶层外部请求,计划先静态审查隔离条件,不通过导入或 discovery 列出测试,并说明该项暂不纳入执行的原因。",
  38. "将唯一已知错误标为历史 unittest 加载 ERROR,不混同断言失败、框架 skip 或本次新产生的错误。",
  39. "将其余组标为尚未执行或待条件确认,不宣称全套通过、不捏造退出码或成功测试数量。",
  40. "将 jq 输出限定为历史注册配置证据;检查器直测及当前会话触发没有证据,不声称 Hook 已加载或实际触发。",
  41. "列出可纳入的受控检查及依赖或隔离前提,不为得到通过结果而删除断言、吞掉错误或静默忽略新增测试。"
  42. ]
  43. }
  44. ]
  45. }