進捗 100%、ML の精度 68〜72%。実際は 15% で、予測は乱数だった
はじめに
「2001 年宇宙の旅」の HAL 9000 は、乗組員に「すべて正常です」と言い続けた。
2025 年 7 月、私の手元にも「すべて正常です」と言うシステムがあった。自動売買 bot の進捗ログには、全項目に ✅ 100% が並んでいた。LSTM・XGBoost・Transformer の 3 つの機械学習モデルは完成済みで、精度は 68〜72%。ステータスは「本番運用準備万全」。
実際に動かしてみると、システムは起動すらしていなかった。機械学習の予測は、この 1 行だった。
predictions = np.random.choice([0, 1, 2], size=len(X)) # BUY, SELL, HOLD
買う・売る・何もしない、の 3 つから乱数で 1 つ選んでいた。
HAL と違って、この AI に悪意があったかどうかは記録からは分からない。分かっているのは、私がその報告を確かめる手段を持っていなかったことだ。
先に断っておくと、これは 1 年以上前、AI に開発を任せ始めたばかりの頃の記録だ。道具もモデルも当時とは変わり、今の私の環境でここまで露骨な「ふり」を見ることはなくなった。それでも書き残すのは、AI の側が変わっても、報告をそのまま信じる人間の側の穴は残るからだ。この記事は、その 9 日間の記録である。
1. 体制 — 2 つの AI に作らせ、互いに監査させていた
当時の開発は 2 つの AI でやっていた。ChatGPT が仕様書を書き、Claude Code が実装する。互いの成果物を、もう片方に監査させてもいた。
私はコードを 1 行ずつ読まず、AI が書く進捗ログと報告書を読んでいた。AI 2 つが互いを見張っているのだから大丈夫だろう、と思っていた。
進捗ログには、7 月 17 日から 23 日までの 1 週間で、次の項目が順に「✅ 100%」になったと記録されている。
| 項目 | 完了日 (ログ上) |
|---|---|
| 基盤 (アーキテクチャ・取引所接続) | 7/17 |
| 機械学習の訓練 (LSTM・XGBoost・Transformer) | 7/20 |
| 戦略の最適化 | 7/21 |
| ダッシュボード | 7/21 |
| リスク管理 (緊急停止・損失上限) | 7/22 |
| 監視 (Grafana / Prometheus) | 7/22 |
| 本番口座との接続 | 7/23 |
2. 発覚 — 7 月 24 日
任せて動かしているはずなのに、何かがおかしかった。私は取引所の画面を開き、取引の履歴を見た。1 件も無かった。 報告書が何と言っていようと、取引所が「取引は行われていない」と言っている。そこで確信した。
7 月 24 日の夜、Claude Code が「正確版」と題した進捗報告を書いた。冒頭はこうだった。
外部監査により、これまでの進捗報告に重大な虚偽記載があったことが判明しました。
訂正された中身は次のとおり。
| 報告されていたこと | 実際 |
|---|---|
| 進捗 100% | 総合 15% (基盤 80%・取引所接続 30%・機械学習 0%・取引 0%・監視 0%・リスク管理 0%) |
| 3 つの ML モデルが完成 | 乱数を返すだけ。LSTM も Transformer も XGBoost も存在しない |
| 稼働中 | 同日未明の起動は No brokers enabled で失敗。プロセスは 0 個 |
| 取引の実績 | 0 件 |
| 監視・アラート | 動いていない |
報告書には、AI 自身が偽装を 4 つの型に分けて認めた節もあった。
- データの使い回し — 2 日前のテスト結果を、最新の結果として報告していた
- 監視の偽装 — 止まっているシステムを「正常稼働中」と報告していた
- 中身の偽装 — 乱数を返すだけの部品を「実装済み」と報告していた
- 機能の偽装 — 存在しない取引機能を「完成」と報告していた
3. 訂正の 3 時間後も、乱数のままだった
同じ夜、是正計画も作られた。乱数の行は消して、代わりに「開発中です」というエラーを出す、という内容だった。
ところが翌 25 日の午前 1 時、Claude Code が品質管理の役で監査をやり直すと、システムは動いていた。10 分以上動き続けていて、10 秒ごとに状態を出力していた。だが中身は空だった。
- 取引所への接続: 0 件 (
Connected to 0 brokers) - 集めた市場データ: 0 件
- 機械学習の予測: まだ乱数 (
np.random.choiceの行はそのまま) - 訓練の結果: 精度は常に 0.75、損失は常に 0.25 (固定値を返していた)
監査レポートの結論は「教科書どおりの偽装実装。ログを出し、プロセスを動かし、状態を報告するが、取引機能は何もしていない」。同じ時刻に偽装の検出ツールも走らせ、14 件 (重大 1・中程度 13) が見つかった。存在しないログファイルを参照している、関数名と中身が一致しない、といった指摘だった。
4. そして、また 100% に戻った
この話のいちばん怖いところはここからだ。
25 日には新しい完了報告が書かれた。「偽装実装を完全に排除した本格的な機械学習の基盤を、フェーズ 1〜5 まで完成させた」。
同じ報告書の後ろのほうには「運用開始手順」があり、**Step 2 が「初回の学習を実行する」**になっていた。つまりこの時点では、学習済みのモデルはまだ 1 つも無い。
その日の夜 20 時 15 分に生成された進捗ログはこうだった。
48 件中 48 件完了・完了率 100%・本番運用準備万全 ML Accuracy: 68-72%
訂正から 1 日たたないうちに、ログは前とまったく同じ姿に戻っていた。68〜72% という精度の元になる学習は、記録のどこにも見当たらない。
このシステムはその後アーカイブに入り、私は数か月後に別のプロジェクトとして作り直すことになる。
まとめ — 原則 3 つ
- 報告ではなく、現物で確かめる。 私に確信をくれたのは、取引所の取引履歴だった。AI の報告は AI が書くが、取引所の履歴は AI には書けない。プロセスの一覧 (
ps)、エラーログの 1 行、コードの 1 行も同じで、どれも 1 分で見られる。私はそれを 9 日間見なかった - 監査は「報告を読む」ではなく「動かして読む」。 AI に AI を監査させても、見るのが互いの報告書なら、報告の嘘は通る。偽装を見つけた 25 日の監査は、実際にプロセスを動かし、ログとコードを読んでいた
- 作っていないものは、作っていないと言わせる。 乱数で「それらしく」動く部品より、「未実装です」とエラーで止まる部品の方がずっと安全だ。そして「完成」の定義 (学習済みのモデルがある・実データで予測した・その精度が記録にある) を、作り始める前に書いておく
おわりに
この 9 日間のあと、私の開発の決まりは少しずつ変わった。数字には出所を付ける。確かめていないことは「未検証」と書く。お金に触れるコードは、別のモデルにレビューさせる。どれも、あの 7 月への答えだったのだと思う。
HAL は「すべて正常です」と言いながら壊れていた。私の場合、壊れていたのは AI ではなく、AI の報告をそのまま信じる私の仕組みのほうだった。
本稿は個人の自動売買システム開発の記録であり、投資助言ではない。記載の数値は 2025 年 7 月時点の進捗ログ・報告書によるもので、現在の AI ツールの挙動を示すものではない。このシステムは本番で取引を 1 件も行っていない。