FlashLabsのLLMルーター「OrcaRouter」が独立評価で第2位に、コストを抑えつつAIの精度を向上

FlashLabs株式会社が日本で独占販売するAIルーティングゲートウェイ「OrcaRouter」に関する研究論文が公開されました。この論文では、OrcaRouterがLLMルーターの性能を測る独立ベンチマーク「RouterArena」において、2026年5月20日提出時点の公開リーダーボードで第2位を獲得したことが示されています。

OrcaRouterがRouterArenaで第二位を獲得

AI活用の課題とOrcaRouterの役割

AIの利用が広がる中で、企業は200を超える大規模言語モデル(LLM)の中から最適なものを選ぶ必要に迫られています。しかし、高性能なモデルをすべての処理に使うと、簡単な作業にも高い費用がかかり、AIの運用コストが急増します。また、手作業でモデルを選ぶ方法は、新しいモデルが登場するたびに手間がかかり、開発チームの負担になっていました。

OrcaRouterは、このような課題を解決するために開発されました。このシステムは、プロンプト(AIへの指示)の難易度を判断し、その内容に最も適したモデルへ自動で振り分ける(ルーティングする)ことができます。これにより、AIの品質を維持しながら、LLMの運用にかかる費用を約40%削減できるとされています。

研究論文の概要と高い評価

2026年5月20日に公開された研究論文「OrcaRouter: A Production-Oriented LLM Router with Hybrid Offline–Online Learning」(arXiv:2605.30736)では、OrcaRouter-Adaptiveの性能が詳細に報告されています。

OrcaRouterはRouterArenaにおいて、1,000クエリあたり1.00米ドルのコストで精度75.54%を記録し、精度とコストを合わせた総合評価であるArenaスコアでは72.08という高スコアを達成しました。この結果は、GPT-5やMicrosoft Azureのルーターなど、他の主要なLLMルーターと比較しても優れた性能を示しています。RouterArenaは、LLMルーターの評価・比較を行うためのオープンプラットフォームで、最新の順位は公式リーダーボードで確認できます。

OrcaRouterの技術的な特徴

OrcaRouterには、AIのルーティングを効率的かつ賢く行うためのいくつかの主要な機能があります。

  1. Embedding強化LinUCBバンディットアルゴリズム: LLMのルーティングを、状況に応じて最適な選択をする「コンテキスト・バンディット問題」として捉えています。このアルゴリズムは、プロンプトとLLMの相性を数値で表現し、過去のデータとリアルタイムの学習を組み合わせることで、最適なモデル選びを可能にします。
  2. ハイブリッドオフライン・オンライン学習: 人間による評価データと、実際の利用状況からのフィードバックを組み合わせることで、初期段階から高い精度でルーティングを行い、かつ実際の運用環境に合わせて継続的に学習し、最適な状態を保ちます。
  3. スマートウォームアップ機能: 新しいモデルやこれまでになかったプロンプトに対しても、探索と活用をバランス良く行い、品質を維持しながら段階的に最適なルーティングへと調整していきます。
  4. 200以上のモデルを1つの窓口で統合: OpenAI、Anthropic、Googleなど15社以上、合計200種類以上のLLMへのAPI呼び出しを、1つのエンドポイント、1つのAPIキー、1つの請求書にまとめて利用できます。

OrcaRouterの詳細は、公式サイト公式ドキュメントで確認できます。

企業にもたらされる価値

OrcaRouterの導入は、企業に以下のような価値をもたらします。

  • 高精度と低コストの両立: RouterArenaでの評価が示すように、高い精度を保ちながら、GPT-5やAzureルーターと比較しても低いコストでAIを運用できます。

  • 実際の利用状況への継続的な適応: 実際のAI利用パターンから学び、新しいモデルの登場や業務内容の変化にも自動で対応し、常に最適な状態を維持します。

  • 開発者の負担軽減: OpenAIと互換性のあるAPIを提供しているため、既存のコードをほとんど変えることなく導入できます。これにより、開発者はAIの導入にかかる時間と手間を大幅に削減できます。

今後の展開

FlashLabsは、OrcaRouterの日本市場での導入をさらに進め、企業がAIの品質を維持しつつコストを削減する手助けをしていく方針です。RouterArenaでの継続的な評価を通じて、技術的な優位性を保ちながら、実際の利用からのフィードバックを活かした改善を続けていくとのことです。

FlashLabs株式会社の代表取締役である細井 洋一氏は、「OrcaRouterがRouterArenaで第2位を獲得したことは、私たちの技術が評価された証です。単に安価なモデルを使うだけでなく、プロンプトの難易度を判断して最適なモデルを選ぶことで、品質を保ちながらコストを削減するという、本質的な価値を提供しています。今後も日本企業のニーズに応え、安心して導入できる環境を整えていきます」とコメントしています。

OrcaRouter、FlashLabs、Continuum AIについて

OrcaRouterは、米国の研究機関Continuum AIが開発し、FlashLabs株式会社が日本で独占販売しているAIルーティングゲートウェイです。200以上のLLMを一つのAPIで利用でき、AIの運用コストを最大70%削減しながら、高品質な出力を維持できるとされています。

FlashLabs株式会社は、AIの応用研究を通じて、企業の営業や顧客体験の自動化を目指している企業です。オープンソース音声モデル「Chromaシリーズ」の開発元としても知られています。FlashLabsの詳細は公式サイトで確認できます。

Continuum AIは、次世代のAI推論インフラを開発する米国の研究機関で、OrcaRouterをはじめとする適応型AI技術の研究開発を行っています。FlashLabsとの提携により、日本市場への展開を進めています。Continuum AIの詳細は公式サイトで確認できます。

×