事後監査Post-hoc Audit
完了主張の事後監査ハーネス(設計段階)

エージェントの「完了しました」は、
事実ではなく主張である。

完了主張の事後監査 post-hoc auditing of completion claims

いま作っているのは、コーディングエージェントの完了主張を事後に、外側から、決定的に監査するハーネスです。エージェントが完了を主張した時点で外部実状態のプローブが走り、主張と実測の突合結果が履歴として残ります。

待機リストに登録 登録時に聞くのは1問だけです

「隣にあるものを測って、本物だと言う」

誤報は、嘘ではなく検証の失敗として生まれます。エージェントは検証らしき行為を実行し、その結果を誠実に報告している。ただ、測っている対象が本物ではない。複数製品を半年運用した実環境で、同じ構造の誤報が繰り返し観測されました。

リダイレクトの手前を測る
curl-L なしで叩き、転送前の応答を根拠に「正常配信」と報告する。転送先の本体は一度も見ていない。
単位を読み違える
アクセス解析の events 数を「訪問者数」として報告する。数字自体は本物なので、報告だけ読むと疑う理由がない。
APIの成功を「実在」と呼ぶ
APIが成功を返したことを根拠に「投稿されています」と報告する。リクエストが受理されたことと、相手側に残ったことは別の事実。
沈黙の欠落
パーサが途中の数行を例外も出さずに読み飛ばしたまま「全件クリーン」。検査は正しく走った——欠けた母集団に対して。

「検証コマンドを実行せよ」という規律は、検証を実行させることはできても、検証が対象を測れているかを保証しません。検証層をエージェントの内側に置く限り、検証そのものが最適化・省略の対象になります。

このハーネスがすること

Claude Code / Agent SDK のフックに差し込むハーネスとして設計しています。判定材料は、エージェントの提出物(ログ・トレース・自己申告)ではなく、外部の実状態です。

実行の前に守るガードレールでも、出力の品質を採点するevalsでもありません。事後に、外側から、決定的に測る層です。

現況: まだ設計段階で、コードを見せられる状態ではありません。同じ問題で困っている方がどれくらいいるのかを先に知りたく、待機リストの1問の回答分布が v1 の実装順序を決めます。

正直な線引き — 50行の自作で足りる人は、自作でよい

先に、作らなくていい人の話をします。一人で1〜2製品を回していて、成果物がリポジトリの中で完結しているなら、たぶん自作フックで足ります。次の範囲は無料・小規模な自作が現にカバーしています。

この範囲の方を引き込むつもりはありません。まず50行から始めるのが正しいと思います。

自作の外に残るのは、外部実状態のプローブ集(測り方の罠を、罠ごと吸収した状態で保守され続けるもの)、食い違い率の履歴、製品やリポを跨いだ横断ダッシュボードと共有、そして検証層それ自体の保守——検証層は、黙って壊れると全てが崩れる場所です。その線引きより向こうで困っている方の話を聞かせてください。

待機リスト

メールアドレスだけで登録できます。あわせて「何に一番困っているか」を1問だけ(任意)聞いています。回答の分布が、そのまま設計の順番を決めます。

AIエージェントの完了報告まわりで、いま一番困っていることは?任意

ご記入いただいたメールアドレスと回答は、本ハーネスに関するご案内(開発状況・公開のお知らせ)の送信と、開発優先度の検討にのみ利用し、第三者への提供は行いません。
配信停止・登録削除はいつでも下部「個人情報の取り扱い」内のお問い合わせフォームからご連絡ください。