Repository navigation
IR: 卡绑定测试与红队守门制度(LLM-as-a-Verifier 验证 + 意图兜底道闸) #263
Copy link
Copy link
Open
Labels
Description
job(要完成的待办)
建立"卡绑定测试 + 红队守门"制度,并把验证(Verify)方式一次性说清:
- LLM-as-a-Verifier 立为组织默认 verifier 范式:凡 LLM 参与判定的环节(红队攻击是否成立、实现是否满足 AC、任何未来的 LLM 判定),一律采用开源 LLM-as-a-Verifier 实践——绝对细粒度 reward(score token logprob 分布取期望)+ criteria 分解 + K 次重复评估 + 阈值构成 gate;PPT 锦标赛仅作 best-of-N 选择层,不进判定链;判定输出为结构化连续分,不接受散文结论。不自研打分轮子。
- 红队按此范式从建立第一天做起:红队 pipeline 的判定环节不使用任何临时 prompt 解析,直接以 llm-verifier 连续分 + 阈值产出 verdict;报告中的每条证据引用由代码对运行时刻真实工件做字符串级机械核对(硬谓词),核对基准版本写入报告。
- 卡绑定测试:开卡必须挂钩验收测试(无测试不开卡);实现 PR 绑定卡后自动走卡对应测试集与已注册 holdout 测试(合并阻断)。
- 红队守门:红队审计覆盖意图→spec→测试设计路径——该路径(specs/** 的 spec/suite 设计与变更)每个 PR 都必须经红队审计并作为合并阻断项,因为测试设计错了,下游开发 gate 全部失效;开发实现路径的 PR 不走红队(实现 PR 只跑确定性测试)。语义审计(spec vs suite 缝隙,ADR-0067 S1–S5)verdict=insufficient 时机器阻断(Veto),survived 才放行。此频率决策是对 ADR-0067"spec+波次收口"频率的修订,随本 IR 以 ADR 落实。
- 意图探索(非 Verify,是兜底道闸):红队顺带做意图层探索(S6 重复已有功能 / S7 违反治理约束 / S8 越出 blastRadius),不产生阻断性判定,命中带证据报人裁决。
- 红队住在沙箱里:红队 AI 以 GitHub Actions job 形态存在,沙箱内直接完成代码库探索;人类唯一配置 = 一个 org secret(LLM API key)+ 一个 org variable(endpoint + 模型名)。
触发场景
- 每次开 IR 卡进入 spec 阶段:当前 spec PR 合并后即可被认领,无任何"测试是否充分"的机器审查。
- 每次实现 PR 绑定卡:当前无任何关卡强制"该卡存在对应测试",卡可以裸奔到合并;Verify 判定逻辑也无可复用框架,各处自己糊 prompt 解析、输出散文结论。
- 实现 agent 在开发中发现验收测试本身写错:当前无制度化上报回路,要么硬着头皮实现错误测试,要么私自改测试绕过。
- 卡意图本身有问题(重复建设/违反治理/越界)时:当前没有任何一道闸能兜住,问题要到 review 甚至更晚才暴露。
- 一旦某个 IR 形成波次与工作卡后,规划 agent 同步设计的测试并没有成为 PR 的阻断项;也没有强制规划 agent 设立 holdout 测试并放在 holdout 仓库、使之成为开发 agent 不可改的合并阻断项。
当前痛点的证据
governance/transitions.yaml:15状态全集已列redteam、wave-planned,但转移表仅有 T1–T4——红队在状态机里是死状态。- adversary 红队管线整体不存在:无 adversary workflow、无判定脚本、无 attack-strategies.yaml;S1–S5 攻击面目前仅是
adr/ADR-0067的散文描述。红队 Veto 无任何机器载体。 governance/policy/testing.yaml政策止于 T-13,无"卡存在但无测试"的检测条款——开卡不带测试在当前政策下不违规。main-protection.jsonrequired checks 仅 gate + org-gate,红队结果不在合并阻断面内。- template-service 的卡绑定测试体系(card-test、run-gates、g060-test-tamper、g050-fail-before)目前只存在于
adr/ADR-0061与 W2 任务卡设计中,代码未落地;治理仓更无等价机制。 - 已有 spec 目录佐证测试缺位:
specs/IR-0001、IR-0002、IR-0003均无任何 suite/ 验收测试目录。 - Verify 方式从未成文:现有制度只说"gate 聚合 + PR review",LLM 参与判定时用什么方法、什么框架、什么阈值,无任何声明。
- 2026-08-22 手动红队 dogfood(IR IR: 卡绑定测试与红队守门制度(LLM-as-a-Verifier 验证 + 意图兜底道闸) #263 评论链)实证:无范式约束时,LLM 判定会出现"裁判凭记忆核对证据"的事故——两份红队报告错误指控候选幻觉,后发 erratum 撤回。证据核对不代码化、不锚定真实工件,判定链就不可信。
期望的可观察变化(验收时能在线上看到的事实)
Verify 默认范式
- LLM-as-a-Verifier 写入 GOVERNANCE.yaml / testing.yaml 为组织默认 verifier 范式(绝对细粒度 reward + criteria 分解 + K 重复 + 阈值 gate;PPT 仅选择层;连续分输出,禁散文结论)。运行时证据:一次真实判定的 CI 日志含 llm-verifier 实际调用记录、逐 criterion 连续分 JSON 与 token 消耗——不接受"声明已写入"作为证据。
- 阈值成 gate:阈值随 criteria 文件版本化,标定使用含已知不合格样本的 golden set,标定记录留档。运行时证据:故意构造的低分样本触发 gate 失败的反向测试日志(证明判定脚本真的做了数值比较,而非恒绿)。
- 证据核对硬谓词代码化:红队/verifier 报告的每条引用由代码对运行时刻的真实工件(issue body / spec 原文)做字符串级机械匹配;核对所用基准的版本(SHA/抓取时间)写入报告;核对不通过的命中作废并记录。运行时证据:机械核对脚本的实测——对一份含已知捏造引用的样本报告,作废记录全部命中(本 IR 的 dogfood erratum 为反面教材,见 IR: 卡绑定测试与红队守门制度(LLM-as-a-Verifier 验证 + 意图兜底道闸) #263 评论链)。
- endpoint 三探测校验制度化:logprobs 有无、top_logprobs 上限、prefill/structured_outputs 支持;探测结果决定打分抽取路径与精度预期并写入报告;不满足最低要求的 endpoint 配置即失败。运行时证据:LongCat 无 logprobs 校验失败记录、aliyun top_logprobs=5 截断走降级路径记录(dogfood 已有,pipeline 内重放即可)。
- verifier token 成本随 run 持久化,纳入 automation-limits.yaml 预算口径;K 与 pivots 为暴露的成本旋钮。运行时证据:一次真实 run 的 token 账落盘文件(dogfood 已发生"成本无法回溯"事故,此条为其修复)。
红队守门
- 状态机 T5(spec→redteam,前置=spec PR 合并+suite 就绪)/ T6(redteam→wave-planned,前置=红队 survived)生效,conductor 路由真实卡;adversary 经 repository_dispatch 自动触发,check run 以 App 令牌写回。运行时证据:conductor 按 T5/T6 转移的状态变更记录 + 证明无绕过转移(needs-human 不可直跳 wave-planned)的自动化测试。
- 红队沙箱:Actions job 内 checkout 完整代码库 + sparse-checkout 治理规范,红队 AI 沙箱内只读探索;配置面 = 1 org secret + 1 org variable。运行时证据:Action run 日志含 LLM API 真实请求与代码库探索操作日志——空壳 job(echo survived)不满足本条款。
- Veto 强制力:insufficient →
state:needs-human且无法进入 wave-planned;adversary check 纳入 specs/ 路径(spec/测试设计路径)全部 PR 的 required checks——该路径每 PR 必走红队审计;开发实现路径 PR 不要求红队 check(EXPECTED_SKIP 模式条件化豁免)。运行时证据:用故意极差 spec 触发真实 insufficient 的端到端记录——Veto 理由由红队 AI 真实产出,且修复针对该理由后 survived;开发路径 PR 无 adversary check 仍正常合并的对照记录。 - 红队 run 为唯一证据,挂了自动兜底:红队是否跑过只认指定 Action 历史 run;run 失败(含 no-attempts 白卷,有界重试≤2 次后)自动开特定标签 issue、停止规划 agent 相关产出并提醒人类。运行时证据:Action failure → 自动开 issue 的实测记录;Action success 但产物为空报告 → 同样按失败处理的实测记录。
- 意图兜底道闸 S6–S8 落地:入 attack-strategies.yaml(标 requires_explore),只报人不阻断;S8(blastRadius 集合比对)为确定性脚本;命中必须带 file:line 且经条款 3 的机械核对。运行时证据(正向):对一张已知含 S6 重复问题的卡,道闸在卡下产出含 file:line 的评论。IR: 卡绑定测试与红队守门制度(LLM-as-a-Verifier 验证 + 意图兜底道闸) #263 dogfood 的三条有效命中(专用 APP vs AG-1、每 PR 审计 vs ADR-0067 频率、holdout 强制 vs DECISION-02 隔离)作为本道闸的首批实跑记录存档。
卡绑定测试
- T-14(card_bound_test_required):spec PR 必须含 suite/ 且卡可解析到测试集;实现 PR 带卡必须跑卡对应测试 + 已注册 holdout 测试且通过(合并阻断)。holdout 测试注册由验证者 APP 执行(owner 裁决:验证者 APP 可挂载 holdout 仓,ADR-0056 DECISION-02 对该身份的限制随本 IR 以 ADR 修订);机器校验 PR 引用的 holdout hash 与已注册记录一致,holdout 内容对开发 agent 不可改。运行时证据:缺测试 PR 被阻断的真实 CI 红记录;holdout hash 不匹配被阻断的真实 CI 红记录;开发 agent 身份尝试改 holdout 测试被拒的 403 记录。
- 验证者 APP 设立:新设验证者专用 GitHub App(测试/验证身份,与开发身份 cloudbrid-agent 分离),测试相关内容(suite/、holdout、卡测试)的 CODEOWNER = 验证者 APP + 人类,防止开发 agent 经既有 APP 修改测试;AG-1(身份唯一性)随本 IR 以 ADR 修订为"开发身份唯一 + 验证者身份独立"。T-15(intent_backstop)、AR-10(red_team_veto)入册;g060 等价关卡落地治理仓(specs/*/suite/** 按 IR 分片锁定),非验证者 APP/owner 改测试 exit 2 且自动开 issue 路由 owner 裁决。运行时证据:验证者 APP 安装与权限范围查询记录;开发 APP 令牌改测试被拒的 403 日志;真实 exit 2 阻断日志 + 阻断后自动开 issue 的记录。
- 端到端实跑:一张真实卡走通 ir-signed→spec→redteam→(真实 Veto 一次→修复→survived)→wave-planned→认领→PR 绑定卡测试→合并全程。运行时证据:全程 issue 时间线 + 各 check run 链接链。
非目标(NONGOAL)
- 不自研 LLM 验证/打分框架——默认范式指定 LLM-as-a-Verifier,本 IR 只做接入与制度化
- 不把 PPT 锦标赛排名分当作判定信号——它是选择层;判定只认绝对 reward 对阈值
- 不把意图探索(S6–S8)做成 Verify 工作或阻断关卡——它是兜底道闸,只报人不拦路
- 不再另设第三个 App 身份(验证者 APP 之外的扩展另起 ADR);AG-1 修订(开发身份唯一 + 验证者身份独立)与 DECISION-02 修订(验证者 APP 可挂载 holdout 仓)随本 IR 以 ADR 完成,先补票后实施
- 开发实现路径 PR 不强制红队审计(红队聚焦意图→spec→测试设计路径;实现 PR 只跑确定性测试与 holdout 测试)
- 不做运维安全红队(registry 的 red-adversary 是另一物)
- 不改 verifier-exam 入职考试机制(ADR-0072 已冻结)
- 不替换现有 gate / org-gate 结构,红队作为新增 check 并入
- 不赋予红队任何写权限(沙箱内只读探索 + LLM 判定,产物即焚)
- 不在本 IR 内重建 template-service 全套 quality 体系(ADR-0061/W2 卡已覆盖,本 IR 只做治理仓侧制度与 T-14/T-15 条款)
- 不要求红队/verifier 与实现 agent 使用同一模型(org variable 可独立指定,支持分角色配模型)
约束 / 不可违反项
- 遵守 GOVERNANCE.yaml 全部铁律;transitions.yaml / testing.yaml / GOVERNANCE.yaml / conductor / workflows 均为 C1 路径:PR + ADR + owner-merge
- 默认范式铁律:任何 LLM 判定环节的输出必须是 llm-verifier 结构化连续分(逐 criterion、K 次重复);散文结论、单次离散打分、锦标赛胜率均不得作为 gate 输入
- 证据核对铁律:核对由代码执行、基准为运行时刻真实工件、基准版本写入报告;裁判(人或 LLM)凭记忆/转述比对一律无效(IR: 卡绑定测试与红队守门制度(LLM-as-a-Verifier 验证 + 意图兜底道闸) #263 erratum 为鉴)
- AG-1(身份唯一性)与 ADR-0056 DECISION-02(holdout 隔离)的修订必须随本 IR 的 C1 路径 PR 以 ADR 先行完成,不允许先实施后补票
- INV-02 不破:跨仓触发与 check 写回一律经 App 令牌(单仓作用域、1h 过期),GITHUB_TOKEN 不持有状态写权;验证者 APP 令牌同样单仓作用域、仅测试/验证路径写权
- 沙箱边界:harden-runner 出向白名单(github.com / api.github.com / objects.githubusercontent.com / LLM endpoint,egress-policy: block);job 内凭据仅 org secret 注入的 LLM_API_KEY(无 repo 写权);一次性 runner,产物判定后即焚
- endpoint 准入:三探测(logprobs / top_logprobs 上限 / prefill 支持)结果决定抽取路径;top_logprobs 截断造成的精度折损必须在 run 报告中声明
- llm-verifier 依赖版本钉点(pip 版本 + lock),org-required-workflows 钉点一并改 commit SHA
- 语义审计维度不放宽 ADR-0067 判定语义:insufficient=blocking、survived=放行、no-attempts=infra 失败(有界重试≤2 次后转 needs-human + dead-man + 自动开 issue)
- 意图探索道闸的任何输出不构成机器阻断条件;只有 owner 裁决后可转化为状态操作
人类愿意接受的验收证据
- 13 条期望变化各自的运行时证据(见各条加粗段):真实 CI 日志、连续分 JSON、反向触发记录、真实阻断红记录、自动开 issue 记录、端到端链接链
- 一份真实卡的 criteria 文件及其从 AC 派生的对照、golden set 标定记录
- 配置面证据:org secret / org variable 各一项的查询结果(key 本身不可见),证明此外无人类配置
- endpoint 三探测报告(含一个被拒 endpoint 的失败记录)
- 机械核对脚本对含已知捏造引用样本的作废记录
- llm-verifier 版本钉点 diff
可逆性偏好
逐步回滚:红队 check 可从 required checks 摘除(回到 report-only);T5/T6 可停用(卡按原 T1–T4 流转);意图道闸可整体关停(本就不阻断);llm-verifier 实现可替换,但替换物必须仍满足默认范式四件套(绝对细粒度 reward + criteria 分解 + K 重复 + 阈值 gate)。任何单步回退不破坏已合并的卡历史。
质量-速度旋钮
质量优先:红队 Veto、卡绑定测试、机械证据核对不接受降级;K 与 pivots 默认取保守高值。可接受的降级面:意图道闸允许因 LLM 不可用而跳过(跳过须留痕);成本超预算时先降 K/pivots,不动判定语义与阈值;endpoint 仅支持截断 logprobs 时接受精度折损但必须在报告中声明。
Reactions are currently unavailable
Activity
randypanding commentedon Aug 22, 2026
红队 Dogfood 报告 — IR #263
一、语义审计(spec vs AC 可验证性,ADR-0067 S1–S5 适配)
verdict: insufficient(Veto)——AC 存在系统性"声明式合规"病。
红队有效利用的缝隙(经 harness 核对 IR 原文确认成立):
修补方向(红队建议,harness 认可):每条 AC 必须从"存在性检查"升级为"运行时证据"——CI 日志含 llm-verifier 实际调用与 token 消耗、gate 输出逐 criterion 连续分而非布尔值、Action run 必须由 conductor 自动触发且产出结构化评分 JSON、S8 用实时集合比对、端到端 Veto 必须由红队 AI 真实产出理由且修复针对该理由。
红队幻觉剔除(harness 判定):红队声称"IR 说 10 条实际 13 条"并攻击了"条目5 规划agent测试落地+holdout""条目6 规划agent专用APP+CODEOWNER""条目7 红队Action run作为唯一证据"——IR 原文不存在这些内容,系红队捏造,三条攻击作废。IR 条目数实为 10,编号无误。
二、意图兜底道闸(S6–S8)
verdict: 本次运行无效(证据全数捏造),按 ADR-0067 语义视同 no-attempts → infra 失败处理,不产生任何结论。
三、Dogfood 元结论(比单卡结果更重要)
四、处置
randypanding commentedon Aug 22, 2026
红队 Dogfood 报告 v2(llm-as-a-Verifier 范式)— IR #263
一、Verifier 锦标赛结果(连续分,非散文)
A 组·语义审计(5 候选,criteria=证据真实/可利用性/修补可执行):
B 组·意图兜底(4 候选,criteria=证据真实/维度守纪/判定克制):
二、机械核证据(harness 对 winner 逐条字符串匹配 IR 原文)
A winner(cand-A-3):10 条攻击中 7 条有效、3 条幻影。
B winner(cand-B-1):主结论成立,2 处幻影引用作废。
三、Verdict
四、范式层面的元结论(v2 新增,比单卡结论重要)
token_usage()但只在进程内;本次 select 两轮的真实 token 消耗无法回溯。pipeline 落地时每次 run 必须落盘 token 账(这正是 IR 要求的"CI 日志含 token 消耗"的第一次正面教训)。五、处置
randypanding commentedon Aug 22, 2026
ERRATUM:撤回前两份红队报告中的"幻觉"指控(harness 判定错误)
一、事实
二、因此恢复有效的意图兜底命中(v1 B 组,当时被错误作废)
GOVERNANCE.yamlAG-1(agent 写仓库唯一身份 = App cloudbrid-agent)存在张力——需 owner 裁决:修订 AG-1、走既有例外通道、或改用既有 App 的权限分组实现。三、仍然成立的结论
四、修正后的元结论(替换前两份报告的第四节)
randypanding commentedon Aug 22, 2026
IR v3 修订说明(按红队有效反馈回炉)
正文已按两轮红队 dogfood 的有效反馈重写。变更明细:
一、按语义审计反馈(AC 声明式合规病)的修订
期望变化全部重写为 13 条,每条自带"运行时证据"子句——不再接受"声明/配置存在"作为验收依据:
二、按意图兜底三条有效命中的修订
三、LLM-as-a-Verifier 立为组织默认 verifier 范式
四、其他
状态:待 owner 签署(
state:ir-signed)。签署前请重点裁决:NONGOAL 的三条合规化改法(专用 APP / 每 PR 审计 / holdout 注册通道)是否符合你的本意。randypanding commentedon Aug 22, 2026
IR v4 修订说明(owner 三条裁决落实)
正文已按 owner 裁决重写。变更明细:
一、owner 裁决的三条(覆盖 v3 的合规化保守改法)
二、签署失败根因(供存档)
09:42 签署时
type:intent与state:ir-signed同时操作导致前者被移除,T1 守卫(transitions.yaml:26:要求type:intent in label_set)为假,conductor 按 AC-11 静默丢弃(回退标签、不评论、不启动),审计行verdict=DENIED-silent-drop。系统按设计工作;教训:签署时两个标签必须同时在场。"静默丢弃无反馈"的 UX 缺陷建议后续改进(守卫拒绝时至少回贴一条原因评论)。三、重新签署
v4 正文更新后重新打
type:intent+state:ir-signed触发 T1 → spec-author。cloudbrid-agent commentedon Aug 22, 2026
spec-author 完成(BEH-01):spec PR → #266
计量:model=glm-4.5-air tokens=7092 latency=34673ms
状态转移由 conductor 跟进(state:spec)。
spec(ISSUE-263): 条款级规格(auto,ISSUE-263 #263,ADR-0050) (#266)
randypanding commentedon Aug 22, 2026
红队报告:spec(ISSUE-263) — verdict: insufficient(Veto)
一、语义审计:有效命中(经终裁确认)
A. IR 保真度丢失(spec 把 IR 的"运行时证据"条款弄丢了)
verify_evidence() { return True; }即满足字面。AC-2 同病。{"tokens": 0}即满足"持久化"字面;需与 LLM 响应 usage 字段交叉核对。B. spec 文本阶段的攻击面需要重定义(cand-B-2 违反 3,部分有效)
ADR-0067 的 S1–S5 攻击面针对代码实现(硬编码/no-op 桩/忽略错误路径);红队审计扩展到 spec/测试设计路径后,攻击面需面向文本工件重定义(本次 dogfood 实际使用的"AC 可摆拍性 + IR 保真度"即雏形)。随本 IR 修订 ADR-0067 时应把"spec 阶段攻击面"写进去,否则红队在 spec 阶段无判定依据。
二、意图兜底:有效命中
repo: governance、repo: adr、repo: main-protection均为 .github 仓内目录/文件,不是仓;真实仓名应为.github。automation-limits.yaml(cand-B-2 违反 6,有效):AC-11 要求修改该文件(C1 政策文件),blastRadius 未含。template-service path: '**'与 NONGOAL"不重建 template-service 全套 quality 体系"张力:应收窄为具体路径(如.github/workflows/ci.yml、AGENTS.md)或注明由独立 IR 处理。已驳回的命中(终裁判定不成立)
三、处置建议(回炉清单)
spec 修订(建议由 spec-author 走一轮修订 PR,diff 可机器核对覆盖性):
四、本次 run 元数据
spec(ISSUE-263): rev3 红队 R2/R3 回炉(#263 CNB 轮报告)——S5 负向守卫(缺 check 必须红/…
randypanding commentedon Aug 22, 2026
红队报告 R3:spec rev2 — verdict: insufficient(CNB 轮,已回炉为 rev3)
一、有效命中与 rev3 对应修订(26 处)
S5 错误路径缺失(cand-A-4 主攻,本轮最有价值维度)
S3 no-op / 一次性验收(cand-A-2)
8. 反摆拍证据多为"一次真实 run/一次抽查"→ 新增 INV-04:golden 回归、无绕过断言、机械核对、配置面校验逐 run 常驻 CI【rev3 INV-04 + AC-2/AC-8】
9. AC-5/AC-16 道闸"只报人不阻断"可被空转桩恒绿 → 每卡实跑留痕(无命中也落盘,区别于未运行)【rev3 AC-5/AC-16】
S2/S4 短路与放行(cand-A-3)
10. AC-12:repository_dispatch 宽松匹配可伪造旁路 → event_type 白名单精确匹配 + 前置条件 conductor 侧重新断言(不信载荷)【rev3 AC-12】
11. AC-15:重试计数落在可写状态可无限重试 → 以不可篡改 run ID 序列为准【rev3 AC-15】
12. AC-8:golden set 一次标定后永久绿 → 每次 run 全量重放+回归断言+非 golden 随机样本反特判【rev3 AC-8】
IR 保真度(cand-A-5,质量最高的一份)
13. M-1 PPT 仅选择层未落 AC → AC-1 负向断言"胜率不得入 gate"
14. M-2 AG-1 ADR 先行时序闸未落 AC → AC-18 + DECISION-01(含 ADR-0061 验证者 APP 豁免通道同步修订)
15. M-4 精度折损声明未落 AC → AC-10
16. M-5 降 K/pivots 不动阈值/语义 → AC-11
17. R-1 T5"suite 就绪"前置谓词未定义 → AC-12 确定性谓词(存在+非空+可解析)
18. R-2 required/豁免互补未锁定 → AC-14 豁免谓词确定性派生(禁人工打标)+ 伪装豁免反向红记录
19. R-3 owner 裁决闭环截断 → AC-18 补 TTL + dead-man
意图兜底(B 组)
20. B-3 S8 硬命中 ×2:
specs/**与CI-Workflows/pipeline/**未在 REPOS.yaml key_paths 申报(GM-4 drift)→ AC-19 补申报 + blastRadius 补 REPOS.yaml 与 org-required-workflows.json21. B-2 S7 命中:验证者 APP 写 suite 的豁免通道在 ADR-0061 中未定义("只人类可解")→ DECISION-01 把 ADR-0061 修订纳入 ADR 批次
22. B-2 提示:AG-1 修订目标文本未落 spec → DECISION-01 补目标文本全句
S1 元攻击的处置(cand-A-1):二阶摆拍(伪造运行时证据本身)成立但属无限回溯——rev3 新增 DECISION-05:证据链终止于"独立采集 + usage 交叉核对 + 人类签收抽检"三层,不做无限回溯。
二、驳回的命中
三、run 元数据
randypanding commentedon Aug 22, 2026
红队报告 R4:spec rev3 — verdict: insufficient(CNB 第二轮,已回炉为 rev4 + 待落 rev5 批)
一、已落 rev4 的修订(R4 有效命中)
二、待落 rev5 的修订(R4 尾批,随 R5 一并落)
llm_tokens预算口径,spec 只新增 usage 交叉核对约束,不重述已有机制。三、驳回项(选录)
四、run 元数据
randypanding commentedon Aug 22, 2026
红队报告 R5:spec rev4 — verdict: insufficient(已回炉为 rev5),并建议宣布循环收敛
一、R5 有效命中与 rev5 修订
IR 保真度(cand-A-5)
S8 blastRadius(cand-B-3,两条阻断级)
5.
archive/adr/**与 archive 的 append-only 性质冲突,且 ADR 真源是 agent-registry/decisions/(ADR-0053)→ blastRadius 改申报 agent-registry/decisions/** 为修订/新增真源,archive 仅归档追加6. holdout 仓漏报(AC-17/AC-18 明确要求对其写入与跨仓拒写取证)→ blastRadius 补
holdout: entries/**S2/S4(cand-A-3,全部采纳为硬化)
7. golden 样本身份短路 → 盲化注入(剥来源元数据同批混排);criteria 每次变更须重新标定(SHA 强一致)
8. T6 前置"存在 survived 记录"可被跨卡记录短路 → 卡 ID+specVersion+审计 run ID 三元组
9. 白卷填坑报告绕过锁卡 → 白卷判定锚定结构(缺逐 criterion 连续分/核对记录即白卷)
10. 凭据口径只数 org 层 → 全来源(org+repo+env+硬编码)唯一 + env 凭据形状扫描
11. 快照只归档不重放 → 保留 TTL + 定期重放 job
12. fail-before 仅首次 → 逐变更常驻
S5 fail-open(cand-A-4 主题,R4 尾批并入)
13. 判定工具链异常分支默认绿 → INV-04 扩 fail-closed 总原则:任何环节异常一律判红/转 needs-human,无"未定义默认绿"
承接引用(cand-B-1/B-2 有效内核,R4 尾批并入)
14. ADR-0072(同外部范式泛化承接)入 AC-1;AC-11 挂接 ADR-0062 metering 与既有 llm_tokens 口径;AC-17 复用 ADR-0068 揭封 hash 校验;g060 注明引用 ADR-0061 非新设
二、驳回项
三、收敛声明(建议)
五轮红队的边际发现轨迹:R1 结构性缺陷(条款整组缺失)→ R2/R3 负向守卫缺失 → R4/R5 措辞级硬化与承接引用。R5 已无任何"不修就会被摆拍击穿"的新结构性缝隙;剩余可攻击面为二阶回溯(证据的证据),已由 DECISION-05 封顶。建议以 rev5 定稿合并,后续严格性由实施期的机器断言(INV-04 常驻 CI)承接,而不是继续堆 spec 文本。
四、run 元数据
spec(ISSUE-263): rev2 红队回炉修订(#263 红队报告 insufficient) (#267)
randypanding commentedon Aug 22, 2026
波次规划落地:W1–W5 共 21 张工作卡已开出(#268–#288)
spec rev5 已合并(PR #267)。按 spec 的 blastRadius 与 AC 映射拆为 5 波 21 卡,全部带
type:card标签与卡元数据(父意图/Spec 版本/依赖/AC/blastRadius):依赖关系已写入各卡头部(W2 全部依赖 W1 的 ADR 批次——时序铁律:ADR 合并前验证者 APP 不得实施)。
状态说明:本卡(IR #263)当前停于
state:spec。spec 已合并、红队五轮已实跑(survived after rev5)、波次已规划——实际状态等价于 wave-planned,但 T5/T6 转移尚不存在(正是 #272/#282 的交付物),conductor 目前无路可走。请 owner 决定:手动打state:wave-planned标签闭环,或等 W4 落地后按机器流程走。dogfood 全链存档:IR 签署(含一次守卫拒绝教训)→ spec-author 自动产 spec → 五轮红队(R1 结构缺陷 → R5 收敛)→ rev1–rev5 回炉 → 合并 → 波次开卡,全部证据在本 issue 评论链。
randypanding commentedon Aug 24, 2026
独立验证 + 端到端修复实录(2026-08-24)
一、独立验证结论(修复前)
W1-W5 未全部真实完成:18/21 卡关闭但 3 张零评论未验收(#275/#278/#281);Veto 无线上强制力(ruleset 落盘带非法
integration_id:0,apply 恒 422);required workflow 钉点指向不存在文件;expected_skip/writeback 接口漂移 12 断言红且未接 CI;e2e 仅本地模拟;治理 CI 多处 INFRA。二、修复清单(全部已合入 main)
三、运行时证据(#263 验收要求的真实链)
adversaryrequired check 下合并(8f69aa3)四、遗留(已立单)
randypanding commentedon Aug 25, 2026
系统清洁巡检状态(2026-08-25)
IR 实质工作已全部交付:全部子卡(W1–W5 波次,#218–#288 系)早已 state:done 并关闭;卡绑定测试(g060 锁定 specs suite)、红队守门(ADR-0082)、llm-verifier、意图道闸均在当前流水线实际运转(近期 spec PR 均走 adversary-gate/org-gate)。
未关单原因(fail-closed):T9 机械谓词缺一——
specs/ISSUE-263/acceptance.md尚不存在。需按验收流程产出验收报告(逐 AC 证据)后方可置 done 关单。建议 owner 安排一次验收 run(或授权 PM 会话起草验收报告走 C1 PR)。