強化学習AI共通基盤

ユーザー状態と行動に応じて強化学習AIがリアルタイムにレコメンド結果を返す共通基盤を新規開発しました。旅行、アルバイト、採用、美容など複数の大規模サービスから利用できるリアルタイム推論API、ユーザー状態管理、逐次バッチ、クラウド基盤を研究開発しました。

強化学習AIを大量トラフィック環境で実用化する新規研究開発でした。ユーザー状態を反映したレコメンド結果を300ms以内で返し、秒間約800リクエストへ耐える必要がありました。サービスごとに異なるデータ構造、ユーザー行動、既存システムと、共通基盤としての汎用性を両立する必要もありました。

• コア基盤を2名で開発。強化学習アルゴリズム以外の基盤領域を一貫して担当。
• AI基盤、Django REST Framework API、逐次バッチ、ユーザー状態のベクトル管理を設計・実装。
• GCP、GKE、Kubernetes、MySQL、Redis Clusterによるクラウド基盤を設計・構築。
• API、データアクセス、Redis、バッチ、GKEを横断して性能を最適化。
• 提供開始直後で情報が少なかったGKE・Memorystoreを検証し、試行錯誤しながら構成を決定。
• Memorystoreの製品上の問題に対し、GKE内にRedis Clusterを構築する代替案を設計・実装。
• 各サービス側のチームと要件・連携方式を調整し、共通部分と個別部分を分離して導入。

300ms以内の応答と秒間約800リクエストを前提としたリアルタイム強化学習基盤を構築し、旅行、アルバイト、採用、美容など複数の大規模サービスへ展開しました。クラウド製品の情報や実績が少ない状況で、負荷試験、障害分析、代替構成の構築を繰り返し、研究段階のAIを本番サービスで継続利用できる基盤へ落とし込みました。レコメンド改善を通じて、年間数十億円規模の事業貢献を創出しました。