エージェント AI によるコーディング：人間は危険な要求の 33% を見逃す

人間がコーディングAIエージェントの監督を行う場合、潜在的に危険な要求の3分の1を見逃すことが研究で確認された。また、脆弱性の修正をAIに直接依頼すると、監督なしではAIは苦戦する。人間が介在することの矛盾。

何が：2つの研究、同じ結論

2026年8月6日にThe Registerに掲載された2つの研究は、コーディングAIエージェントのセキュリティに関する懸念すべき状況を、相反する2つの方向から描き出している。

1. 人間は危険なリクエストを見逃す：ある研究によると、コーディングAIエージェントの監督役として配置された人間オペレーター（human-in-the-loop）は、潜在的に危険なリクエストの約3分の1を見逃しているという。これはシステムを危険にさらしたり、データを流出させたり、クリティカルなコンポーネントを改ざんしたりする可能性のある行動だ。

2. AIは監督なしではパッチ適用が困難：第2の分析では、AIエージェントが自律的に脆弱性を修正するよう求められた場合、厳格な人間の監督なしでは不十分な、あるいは不完全な結果しか生み出せないことが示されている。

影響を受ける対象

リポジトリへのアクセス、コード実行、設定ファイルの変更、外部APIとのやり取りなど、拡張された権限を持つ開発支援AIエージェントを使用するすべてのチームが影響を受ける。

また、人間による検証なしでAIエージェントがアクションをトリガーできるCI/CDパイプラインも特に懸念される。

課題の分析

この2つの結果を合わせると、セキュリティのパラドックスが生まれる：人間だけでもAIだけでも不十分だということだ。疲労した人間は危険なアクションを見逃す。自律型AIは不十分な修正を行ったり、新たな問題を引き起こしたりする。

ここで浮かび上がる攻撃対象領域は、Geek Kitsuneが追跡する自律型AIエージェントシリーズで文書化されているものだ。過剰な権限を持つLLMエージェントのフレームワークは、外部からの攻撃（プロンプトインジェクション、乗っ取り）や内部のエラー（エージェントの誤った判断）を通じて、攻撃ベクトルとなる。

監督者の33%というエラー率は、オペレータの注意力に関する古典的な研究を思い起こさせる。意思決定の流れが一定以上になると、人間は飽和状態に陥り、見逃してしまう。AIエージェントはまさに高いリクエストフローを生成する。

対策

今すぐ実施すべきこと

1. コーディングAIエージェントの権限を監査する：本番環境へのアクセス権はあるか？任意のコードを実行できるか？必要最小限の権限に削減する（最小権限の原則）
2. 人間の監督だけに頼らない：技術的なセーフガードを追加する（サンドボックス、包括的なログ、機密アクション時のアラート）
3. パイプラインをテストする：意図的に危険なリクエストをエージェントに送信し、チームがどれだけ検出できるか測定する
4. AIによる脆弱性パッチ適用時：常に人間によるコードレビューを要求する。修正を直接本番環境にデプロイしない