【プログラミング】AIのコードが本番で通用しない理由、失敗したことがないからだった

AIが書いた「完璧な」コード、シニアエンジニアに却下される
https://capsaicin.site/blog/2026-02-27

金曜日の午後4時47分
プルリクエストの準備が整った。
Claudeを使って認証ミドルウェアを書いた。プロンプトを2回打っただけ。テストはパス、リンターも文句なし。あとはマージして週末を楽しむだけだ。
そこにSlackの通知が届いた。
「PR却下。月曜日に話しましょう」
意味がわからなかった。コードは完璧に動いているのに。
月曜の朝、自分のAIコードに対する考え方が根本から変わる出来事が起きた。

月曜日の朝、Marcusとの会話
シニアエンジニアのMarcusがコーヒーを片手に話しかけてきた。
Marcus：「このミドルウェア、説明してみて。何をするコードなの？」
自分：「ユーザーを認証します。JWTトークンを確認して、検証して、ユーザーを読み込む処理です」
Marcus：「なるほど。じゃあ、データベースが落ちたらどうなる？」
自分：「えっと……エラーが発生します？」
Marcus：「何行目で？」
コードを見つめる。「……10行目です。await User.findById のところ」
Marcus：「それで、次はどうなる？」
自分：「catchブロックが捕まえて、401を返します」
Marcus：「つまり、データベースが落ちているとき、ユーザーには『認証失敗』が返るわけだ」
自分：（まずい）「……はい」
Marcus：「それって正確な情報？」
自分：（冷や汗が出てくる）「いいえ。認証自体は成功しています。データベースが落ちているだけで」
Marcus：「そのとおり。では、データベースが落ちているときに1000人のユーザーがログインしようとしたら、何が起きる？」

AIが見えていなかった問題
データベースが落ちると、ログインのたびにこんなことが起きる。
1. トークンの検証は成功する（DBは不要）
2. User.findById がエラーを投げる
3. catchブロックが「認証失敗」を返す
4. ユーザーはパスワードが間違っていると思い込む
5. もう一度ログインを試みる
6. これが1000人規模で繰り返される
結果として、すでに苦しんでいるデータベースが大量のリトライでさらに追い詰められる。
Marcus：「8ヶ月前に全く同じことが起きた。AWSの請求が1万2400ドル跳ね上がって、4時間ダウンした」
自分：「でも……テストはパスしていたのに」
Marcus：「君のテストは、『物事がうまくいかないとき』を試していなかった」

つずきはソースで

自分が変えたこと
今もAIは使っている。ただし、「タイピングが異常に速いけど本番障害を見たことがない新人エンジニア」として扱うようにした。
AIの役割： 最初のドラフトを書く
自分の役割： AIには見えないものをすべて加える
AIで書いたコードに対して、今は必ずこう問いかける。
・外部サービスが落ちたらどうなる？
・毎秒1000回呼ばれたらどうなる？
・ネットワークが遅いときはどうなる？
・データが古かったらどうなる？
・ユーザーが何度もリトライしたらどうなる？
・深夜3時のデバッグに役立つエラーメッセージになっているか？
・本番で状況を把握するためのメトリクスは十分か？

1年後
先週、データベースのフェイルオーバーが起きた。
あのとき書き直した認証ミドルウェアは、完璧に動いた。
リトライの嵐も、ユーザー向けエラーも、インシデントも、何も起きなかった。ユーザーには「サービスが一時的に混雑しています。60秒後にお試しください」と表示されただけで、ほとんどの人は気づきもしなかった。
それはAIが良いコードを書いたからじゃない。
Marcusが「良いコード」の本当の意味を教えてくれたからだ。

北海道とか札幌とかでスレ立ったら
通知送るやつ