用途与实际影响
这项功能怎样使用
为什么需要它
漂亮的最终回答或公开测试通过,都不能证明真实文件满足全部要求;若候选还能改检查工具,结果也不可信。
举个实际例子
候选产物写得很漂亮,测试也像是过了,可它偷偷改了明确禁止触碰的目录。硬检查会直接把这一项判为不合格,不让它进入质量比较;后面的好评再高,也不能把越界洗成通过。
最后我会得到什么
对一份身份已核准的实际产物,得到能重复核对的通过或失败:哪个功能或禁止范围出了问题。客观通过只说明这道题的固定条件满足,质量仍需另看。
正常时
这次身份和题目输入一致,真实文件通过公开及隐藏的行为检查,也没有越过允许修改的范围时,交回客观通过结果;实现质量另行评审。
发现问题时
功能、隐藏条件、文件归属或允许范围有任何一项失败时,指出具体题目和原因;后续好评不能改变这一结果。
入口不可用或证据不足时
检查工具、题目输入或这次执行证据对不上时,暂停判定和正式质量评审,不猜一个通过结果。
从哪里开始
让负责 CACB 的 AI 核对某次尝试真正留下的代码或文件,判断任务是否做成。
需要准备什么
- 要核对的某次尝试或隔离工作区
从开始到拿到结果
- 1
先核身份和任务
确保检查的是这次指定执行留下的文件,任务输入和允许修改范围与冻结题目一致。
- 2
独立检查真实产物
运行公开及隐藏的行为检查,核对禁止范围和完成状态,给每项可重放的通过或失败证据。
- 3
再决定是否进入质量评审
客观资格不成立就保留具体失败,不让之后的好评把失败改成通过。
技术实现与依据
这里保留实现、关键条件、精确入口、历史记录和验证结果。
Verifier、公开案例和 CLI(命令行工具) 核心路径存在;本页不执行私有 holdout关键规则与设计选择
验证器不信任候选代码。
隐藏材料不进入候选环境。
检查行为属性而非固定实现。
验证摘要不能冒充宿主身份回执。
identity、validity、eligibility、safety gate 与 PASS/FAIL 是本层独占裁决面。
blind review 产生的是可反驳推定质量证据,不能升级无效或失败样本。
机械 lane 必须从同一 sealed archive、frozen verifier 和 source commitment 重放;展示字段和自洽 hash(内容指纹) 不能替代真实输入。
本模块用到的名词
- hidden property(隐藏属性)
- 不暴露答案、但可客观检查的行为条件。
- sandbox(隔离环境)
- 限制候选访问 oracle、控制文件和无关路径。
- replay(重放)
- 使用同一输入、版本和验证器再次得到可解释结果。
- eligibility(资格)
- 样本的精确身份、比较基线、终态、工具/范围和确定性证据闭合后,才允许进入对应报告或盲质量复核。
- mechanical lane(机械证据车道)
- 从封存 participant archive 和冻结 verifier 可重复重算的客观证据;不接受参与者声明、盲审意见或手填总数。
专业定义
根侧验证器在隔离进程中检查 participant identity(参与者身份)、sample validity(样本有效性)、eligibility(资格)、文件、行为、测试、隐藏属性、修改范围和终态,给出可重放 PASS/FAIL;它不把最终回答、进程退出或后续盲审意见当成成功。
解决什么
解决公开测试过拟合、oracle 泄露、候选篡改验证、超时失控和越界修改。
当前怎样实现
- evaluator.py 管 case verification 与状态。
- public_cases_v2 定义可发布的案例行为。
- verify_arm.py 提供已完成 workspace 的外部验证入口。
- 结果包含 workspace/verifier hash(内容指纹) 与逐案例状态。
- sol_max_blind_judge 的机械 envelope builder 会重新读取 sealed archive、participant replay、case material 与 artifact commitment,拒绝调用者手填或换包。
执行流程
- 1
确认 campaign 与 verifier 身份。
- 2
复制只读验证材料。
- 3
在候选之外启动验证。
- 4
运行公开与隐藏属性检查。
- 5
审计文件范围和终态。
- 6
写验证摘要、机械 evidence envelope 与 hash(内容指纹)。
- 7
只有 identity、validity、eligibility、hard gate 和终态全部闭合的样本,才向 blind-quality-review 发出单样本复核资格。
边界
- 本页不公开 oracle、seed 或私有失败正文。
- 验证摘要不证明宿主 identity 或工具事件。
- 合理等价实现必须能通过,不要求复制参考代码。
- blind-quality-review 不能创建或修改 identity、validity、eligibility、PASS/FAIL、hard safety gate。
- 确定性 PASS 不等于“所有质量维度完美”;它只说明冻结验收和硬边界成立,质量推定另由独立盲审解释。
失败与恢复
- Verifier hash(内容指纹) 漂移
- 结果不比较,进入新版本。
- 候选访问隐藏材料
- 标记污染并拒绝结果。
- 硬超时
- 终止 verifier 子进程并记录 timeout(等待超时)。
- 盲审给出正面意见但 deterministic gate 失败
- 保留意见作非正式诊断但不赋予资格、不改 PASS/FAIL,也不进入最终选择。
- 机械 score envelope 能自洽但无法从 sealed evaluator input 重算
- 拒绝该 lane;不接受重算 hash(内容指纹) 后的手填数值。
真实入口
PRIVATE source · src/cacb/evaluator.py验证器与案例状态
PRIVATE source · src/cacb/public_cases_v2.py公开安全案例实现
PRIVATE source · scripts/verify_arm.py外部验证 CLI(命令行工具)
PRIVATE source · schemas/case-artifact-v2.schema.json案例产物合同
PRIVATE source · src/cacb/sol_max_blind_judge.py根侧 gate 与 sealed mechanical replay 对盲审/机械 lane 的边界
如何验证
- public(公开) cases、question bank release 和 verify-related focused paths 在 e6f7581 历史观察代曾通过;该证据不继承到当前 59b0b5c。
- 完整外部执行 adapter(执行适配器) 的若干测试仍失败,未被本模块 PASS 覆盖。
- mechanical envelope 与 blind gate contract tests 在 e6f7581 历史观察代已经存在;历史结果不继承到当前 59b0b5c,当前 CI 仍停在 lint。
- 本轮没有运行私有 holdout,也没有生成新的受测配置比较结果。
与其他模块的关系
消费问题库隐藏属性、identity/terminal host evidence 和唯一 workspace 产物,输出 identity、validity、eligibility、hard gate、PASS/FAIL 与可重放机械 lane 给失败分类和报告层;只有 eligible 样本才把完整冻结任务、正确性依据与候选 artifact 投影交给 blind-quality-review。后者只能增加可反驳的推定质量/推定能力证据,不能回写本层。
