まだ存在しないAIエージェントのセキュリティをどう構築するか？

AIエージェントは、より高い自律性、より多くのコンテキスト、より広いリーチ、そしてより大きな行動権限へと急速に進化しています。私たちは、次に何が来るかを見据えて、今セキュリティを構築しなければなりません。

私たちは今、2年後のソフトウェアをどのように保護するかについて、ソフトウェアが急速に変化しすぎて、それがどのような姿になるか誰にもわからないという、まさにその瞬間に、莫大な賭けをしています。

数ヶ月おきに、新しいエージェントのアーキテクチャ、フレームワーク、または標準が登場します。2028年までに、私たちが今日設計しているテクノロジーの多くは、劇的に変化しているか、あるいは完全に姿を消しているでしょう。

しかし、何が生き残るかを知るためにそれまで待つことはできません。まだ見ぬソフトウェアの展望のために、今、セキュリティの決断を下さなければなりません。

これは急速な進化の時期に起こることです。新しい種が次々と現れ、そのほとんどが消え去り、時間が経つにつれて、一部の種に優位性を与える形質が、次に何が来るかを定義し始めます。

クラゲ、カエル、そして脳

現在、企業で稼働しているソフトウェアのほとんどは古い種に属しています。進化の観点から言えば、それはクラゲです。センサーが反射神経に直結しており、中央で判断を下す脳がありません。開発者が何が起こるべきかを決定し、その決定をコードに書き込みます。その後、リクエストが入ると、あらかじめ配線されたパスが作動し、レスポンスが返されます。

クラゲは失敗した生物ではありません。5億年以上生き延びており、おそらく人類よりも長生きするでしょう。決定論的なソフトウェアもなくなることはありません。予測可能な反射こそが求められる仕事は数多く存在します。

私たちが今構築しているものは異なります。私たちはソフトウェアに脳を与え始めましたが、ほとんどの場合、その脳はまだ完全に主導権を握っているわけではありません。ワークフローの中にLLMを組み込んだり、エージェントを定義されたツールセットに接続したり、あらかじめ決められたパスに基づいて基本アーキテクチャが設計されたアプリケーションにインテリジェンスを追加したりしています。ソフトウェアは問題の一部について推論することはできますが、依然として古い反射が何が起こるかの大部分を決定しています。

私はこれをエージェンティックな進化における「カエル」と考えています。古い世界と新しい世界の両方に属しているのです。

カエルが重要なのは、それが移行が進んでいることを示しているからです。次の種がどのような姿になるかはわかりませんが、生き残るために必要となる最も重要な形質の1つはすでに見えています。それは、システムが実際に何をするかを決定する上で、脳がますます中心的な役割を果たすようになるということです。

そこに、業界の多くが間違いを犯している点があると思います。私たちは、将来的に生き残るであろう能力ではなく、たまたま今日存在するエージェント、フレームワーク、アーキテクチャに基づいてセキュリティを設計しています。今日のエージェント・アーキテクチャは過渡的な種です。進化するものもあれば、有用なニッチを長期間占めるものもあり、消え去るものもあります。