Cloudflareは、Workers AIとAI Gateway製品を一つのAIコントロールプレーンの下に統合したことを発表した。この統合により、ユーザーは任意のモデルプロバイダー(Workers AIを含む)を一つのバインディングまたはREST API経由で呼び出すことができる。観測可能性、ログ管理、セキュリティ、請求書の管理は、現在一つのポイントから管理できる。

最もすぐに気づく変更は、AI Gateway IDとして「default」を渡すことで、ゲートウェイが最初の使用時に自動的に作成されることである。これにより、別のゲートウェイの設定が必須ではなくなった。また、AI Gatewayクレジットは、Workers AIの使用にも使用でき、統一された請求書と優先的な速度制限も提供される。モデルファーストルーティングと呼ばれるアプローチでは、ユーザーがモデルを指定することで、プロバイダーの選択をコントロールプレーンが管理できる。

まだパイロット段階にあるスマートルーティングは、ユーザーの要求の種類を予測して、最適なモデルを自動的に選択することを目指している。モデルファーストルーティングとスマートルーティングの機能はすべて、近い将来に幅広いユーザーに提供されるようにテストされている。ソースに記載されているように、速度制限やその他の詳細は、開発者向けのドキュメントに最新の情報が記載されている。