Auriko

Auriko は LLM 推論向けの AI 制御面で、モデルゲートウェイ、賢いルーティング、可観測性、FinOps をひとつの基盤に収めています。アプリはひとつの OpenAI 互換 API から複数の事業者を呼び、Auriko はワークロードが各事業者の料金とプロンプトキャッシュの仕組みとどう向き合うかをモデル化し、各リクエストを最も安い事業者へルーティングします。内蔵のシグナルは事業者の性能、ヘルス、キャッシュの振る舞い、利用パターンを覆い、チームはコスト、遅延、スループット、または自社の指標で最適化するルーティング戦略を定義でき、P95 スループットのような制約も設けられます。