直近のAI業界の動向として、大規模言語モデル(LLM)の利用が増加しています。特にOpenAIのGPT-4のような高性能モデルが注目されています。 そんな利用可能なLLMの数が増える中、多くのスタートアップが、コスト削減や効率的なクエリ処理のため、複数のモデルを組み合わせて使用する動きが増えています。
例えば、Pathlightというスタートアップは、顧客の会話や従業員のパフォーマンスを分析するために、OpenAI、Anthropic、Meta Platformsなどの提供する12のLLMを使用していると言います。複雑な問い合わせにはGPT-4を使い、簡単な要約リクエストにはオープンソースのモデルを使用するという戦略を取っています。
このようなモデルの選択や、ルーティング(データやリクエストを適切な場所やモデルへと向けること)
を自動化する新しいスタートアップも登場しています。Martianは、さまざまなLLMの精度や、コスト、速度を評価して、最適なモデルを選択するサービスを展開しています。
Autumn8というスタートアップでは、モデルルーティングのようにリアルタイムでの特定のAIモデルへのリクエストの振り分けを行うのではなく、AIモデルの評価をサポートするサービスを提供しています。このようなサービスは、AIモデルの選択と評価がますます重要になる中、多くの企業にとって価値のあるものとなっています。
これらは、今後需要が拡大していきそうなサービスですが、すべての投資家がこれらのサービスに必要性を感じているわけではありません。今後モデルの選択とルーティングが多くのAIスタートアップにとって重要になる場合、Amazon Web Servicesや、Hugging Faceのようなクラウドプロバイダーがこれらのサービスを提供する可能性も考えられます。
AIモデルの選択や、ルーティングを最適化するスタートアップの急増している背景には、AI企業のニーズに対する起業家の迅速な反応を示しています。
これらのモデルルーティングのスタートアップが良いビジネスに昇華するかはまだ不明ですが、大変期待されている領域ではあります。この動きは、企業がAIモデルへの投資をより慎重に、そしてコスト削減を意識的に行おうとしていることを意味しています。
参考:https://www.theinformation.com/articles/the-rise-of-startups-that-help-other-startups-evaluate-llms |