OpenAIは、8億人のユーザーを抱えるChatGPTおよびAPIプラットフォームをサポートするために、オープンソースのPostgreSQLデータベースを活用しています。木曜日に公開されたブログ記事で、OpenAIは、分散データベースやシャーディングされたクラスタではなく、単一プライマリのPostgreSQLインスタンス上で大規模なユーザーベースを運用していることを明らかにしました。

この構成では、すべての書き込み操作に1つのAzure PostgreSQLフレキシブルサーバーを使用し、読み取りリクエストを処理するために、複数のリージョンに約50の読み取りレプリカが分散されています。OpenAIによると、このシステムは、低二桁ミリ秒のp99レイテンシとファイブナインの可用性を維持しながら、毎秒数百万件のクエリを管理しています。

このアプローチは、データベースのスケーリングに関する従来の考え方に挑戦し、大規模システムを扱うエンタープライズアーキテクトに貴重な洞察を提供します。同社は、重要なポイントはOpenAIの特定のインフラストラクチャを複製することではなく、アーキテクチャの決定を行う際に、認識されたスケーリングの課題に反応したり、慎重な検討なしに流行のテクノロジーを採用したりするのではなく、ワークロードパターンと運用上の制約を優先することであると強調しました。

PostgreSQLに依存するという決定は、チームが時期尚早な再構築ではなく、意図的な最適化に焦点を当てた場合に、確立されたシステムが持つ可能性を強調しています。特定のAIアプリケーション向けにベクトルデータベースが普及していますが、OpenAIのユースケースは、適切な構成と最適化により、従来のリレーショナルデータベースでも大規模なワークロードを効果的に処理できることを示しています。

OpenAIのアプローチの影響は、データベースアーキテクチャにとどまりません。組織は、複雑で潜在的に不必要なソリューションを採用する前に、特定のニーズと制約を慎重に評価する必要があることを示唆しています。既存のシステムの最適化に焦点を当てることで、企業はパフォーマンスの大幅な向上とコスト削減を達成できる可能性があります。

OpenAIのPostgreSQLでの成功は、異なるデータベーステクノロジーとアーキテクチャパターン間のトレードオフを理解することの重要性を強調しています。分散データベースとシャーディングされたクラスタはスケーラビリティの利点を提供しますが、複雑さと運用上のオーバーヘッドも導入します。場合によっては、適切に最適化されたシングルインスタンスデータベースの方が、より効率的で費用対効果の高いソリューションとなる可能性があります。

同社は、このレベルのパフォーマンスを達成するために採用した最適化手法に関する具体的な詳細はまだ開示していません。ただし、ブログ記事では、ワークロードパターン、クエリの最適化、およびインフラストラクチャ構成への注意が重要な役割を果たしたことが示唆されています。詳細については、今後数か月以内に公開される予定であり、データベース管理者やアーキテクトが独自のPostgreSQLデプロイメントをスケーリングするための貴重な洞察が得られるでしょう。