SambaNova、オープンソースLLMのスピードと精度を比較できるSambaverseを発表

米国カリフォルニア州パロアルト、2024年3月6日 - SambaNova Systemsは開発者が何百ものオープンソースの大規模言語モデル（LLM）を試し、任意のアプリケーションに対する応答を単一のエンドポイントから直接比較できるユニークなプレイグラウンドとAPIであるSambaverseを発表しました。 

Sambaverseを使うと、Hugging Faceで公開されている最も人気のあるモデルの中から、開発者は一つのプロンプトで複数の大規模言語モデルを比較することができます。プロンプトを入力するとSambaverseは各モデルに同時に質問し、その応答をリアルタイムで表示します。

SambaNova Systemsの共同創業者兼チーフ・テクノロジストであるクンレ・オルコトンは次のように述べています。「MetaのLlama2、MistralAIのMistral、GoogleのGemmaのような新しいベースモデルは、強力なエキスパートモデルを作成するためにオープンソースコミュニティによって開発されています。しかし課題は、開発者がどのエキスパートモデルあるいはエキスパートモデルの組み合わせが、自分たちのユースケースに最適なのかわからないことです。現在存在する定量的なベンチマークは、モデルの品質を表していないため頼ることが出来ないのです。質的な評価こそが、どのモデルが適切かを選択する最良の方法なのです。」

「オープンソースのエキスパートモデルをテストする推論サービスもありますが、これからはマルチモーダルです。モデルの多様性とそれらを迅速に評価してワークフローを作成するために接続し、同時にアクセスする能力は、リアルタイム推論を達成する方法です。これまで、エキスパートの種類の豊富さと、これらのモデルをリアルタイムで同時評価する能力を提供するソリューションはありませんでした。Sambaverseは開発者コミュニティにとって非常に直感的な問題を解決します。」

Sambaverseの単一のインターフェイスで複数のモデルを比較する能力は独自のComposition of Experts（COE）モデルアーキテクチャーによって実現されており、3層のメモリとデータフローアーキテクチャーを持つSambaNovaのSN40Lシステム上で最適に動作します。Samba-1で利用可能なこのアプローチは企業や政府機関が必要とする性能、拡張性、プライバシーとアクセス制御を提供します。

Sambaverseの詳細やプレビュー登録に興味のある開発者は、以下のサイトにアクセスしてください。https://sambaverse.sambanova.net/
Samba-1に関する追加情報は、https://sambanova.ai/ja/products/samba-1 をご覧ください。