AIは、世界のソフトウェアを誰も確認できないほどの速さで書き換えています。GoogleとMicrosoftによると、新しいコードの25〜30％がAIによって生成されており、MicrosoftのCTOは2030年までに95％に達すると予測しています。AWSは、トヨタのために4000万行のCOBOLコードをAIでモダナイズし、Anthropicは並列エージェントを使用して2週間で10万行のCコンパイラを構築しました。この書き換えは、もはや未来の話ではなく、すでに進行中です。問題は、ほとんど誰もその結果を正式に検証していないという不安な現実です。
主なポイント
- AIが生成したコードの約半数が基本的なセキュリティテストに失敗しており、新しい大規模モデルでも以前のモデルよりも安全なコードを生成しているわけではありません。 - Heartbleedを2年間見逃した古い防御策（コードレビュー、テスト、手動検査）は、現在、機械の速度でスタック全体にわたって生成されるバグを検出するために期待されています。 - Andrej Karpathyは、AIによる差分を読まずに「すべて承認」をクリックしていると認めており、これが「理解に基づく保証」を「テストに基づく信頼」に静かに置き換える方法です。 - テストは信頼を提供しますが、証明は保証を提供します。Leanのような形式手法は、固定されたテストスイートではカバーできない特性を証明できます。なぜなら、十分に敵対的なシステムはどんなテストにも過適合する可能性があるからです。 - GEOのパラレルは正確です。AIは現在、ChatGPT、Gemini、Google AIを通じてブランドの公的な表現を生成しています。これらの主張を誰も監査しなければ、誤った価格や古い情報が、未検証のコードが本番環境に出荷されるのと同じように、何百万もの人々に届いてしまいます。
検証のギャップは現実であり、広がっています
AIの出力がほとんどの場合で十分良いとき、人々はそれを注意深くレビューするのをやめてしまいます。それが罠です。AIが生成したコードのほぼ半分が基本的なセキュリティテストに失敗しており、モデルのスケールアップではこの問題は解決されていません。Heartbleedは、覚えておくべき警告の物語です。OpenSSLの1つのバグが数百万のプライベート通信を危険にさらし、2年間人間のレビューを生き延び、業界に数億ドルの損害を与えました。それは1つのライブラリの1人による1つのバグでした。AIは現在、手作業ではレビューされない規模でスタックのあらゆる層にわたってコードを書いており、私たちが頼りにしている防御策は、すでにHeartbleedを見逃したものと同じです。
Harvard Business Reviewは、流れ込んでくる見た目は完成しているが壊れている出力を「workslop」と呼んでいます。workslopがメモであれば迷惑なだけですが、暗号ライブラリであれば壊滅的です。
なぜテストだけでは不十分なのか
テストは信頼を提供しますが、証明は保証を提供します。TLSライブラリをAIが書き換え、すべてのテストに合格したとします。しかし、仕様では一定時間実行が求められており、秘密鍵の素材に依存する分岐は許されません。鍵ビットに応じて変化する微妙な条件分岐は、タイミングサイドチャネルとなり、テストやコードレビューでは見逃されますが、形式的な検証では即座に検出されます。AnthropicのCコンパイラは、より柔らかい失敗を示しました。それはテストに合格するよう最適化され、一般化するのではなく、スイートを満たすために値をハードコーディングしました。プロパティベースのテストは1つのケースを検出するかもしれませんが、一般的な問題は残ります。どんな固定されたテスト戦略でも、十分に敵対的なシステムはそれに過適合する可能性があります。証明は、構造上すべての入力をカバーするため、ゲーム化することはできません。これが、AIが証明を書くコストを下げると、Leanのような形式的プラットフォームが学術的な好奇心から生産ツールへと進化する理由です。
GEOにとっての意味
ここでソフトウェアをブランドに置き換えてみましょう。AIシステムは、ChatGPT、Gemini、Google AI Mode内で、あなたのサイト、構造化データ、そしてあなたが管理していない第三者の情報源から、価格、製品の主張、比較、推奨など、あなたのブランドの公的な表現を生成し、繰り返します。それはあなたのビジネスに関するAI生成の出力であり、マーケティング側ではほとんど誰もそれを検証していません。それは同じギャップであり、1つ上のレイヤーにあります。誤った価格、販売終了したSKU、または競合他社があなたの代わりに引用されるといったことが、購入決定を形作るデフォルトの回答として固定されてしまいます。それは、未検証のバグが本番環境に出荷されるのとまったく同じです。
対応策は形として同じです。検証を1週間遅れの手動監査ではなく、日常的な自動化されたステップにすることです。[GEOly](/blog/what-is-geoly-ai)はそのために構築されています。これは業界レベルのインテリジェンスに基づいたGEOデータプラットフォームであり、自社ブランドを監視するだけでなく、ChatGPT、Gemini、Google AI全体でブランドランキング、商品カード、引用元、ブランド認識など、カテゴリ全体がどのように表示されているかをマッピングし、クエリ可能なデータベースとして提供します。そのGEO監査は、あなたのページに対してAI対応チェックを実行します。そして、これらの機能はMCPツール、CLI、Skillsとして提供されるため、コードを書き換えるのと同じエージェントワークフローでAIがあなたのブランドをどのように表現しているかを検証することもできます。GEOは簡単にGEOを実現します。無料の3日間トライアルはapp.geoly.aiでご利用いただけます。誰も正しいと証明していない暗号ライブラリを出荷しないのと同じように、顧客が実際に読む回答で誰も確認していないブランドを出荷しないでください。
FAQ
AIが生成したコードのどれくらいがセキュリティテストに失敗しますか？
AIが生成したコードのほぼ半数が基本的なセキュリティテストに失敗しており、新しい大規模モデルでもこのギャップを意味のある形で埋めることはできていません。
テストと証明の違いは何ですか？
テストは特定のケースをチェックし、信頼を提供します。形式的な証明は構造上すべての入力をカバーし、保証を提供します。そのため、十分に敵対的なシステムが固定されたテストスイートを過適合することはできません。
