Products
Resources
Industries
About

SambaNovaがフルスタックAIプラットフォームを強化する新しいAI半導体SN40Lを発表 - SambaNova Systems

Posted by SambaNova Systems on 2023年10月10日

SambaNovaのインテリジェントAIチップは最大5兆個のパラメータモデルを実行可能で、モデルの精度を犠牲にすることなく、高速でスケーラブルな推論と学習を実現

パロアルト、2023年9月19日-業界で唯一のフルスタックAIプラットフォームベンダーであるSambaNova Systemsは革新的な新しい半導体である「SN40L」を発表しました。SN40Lはその革新的な新しい設計によりSambaNovaのフルスタックの大規模言語モデルプラットフォームであるSambaNova Suiteを強化します。SN40Lは大容量メモリと広帯域メモリの両方を搭載し、密な計算と疎な計算の両方を得意とする、まさに「インテリジェント・チップ」となっています。

TSMCによって製造されるSambaNovaのSN40Lはシングルシステムノードで25万のシークエンス長で、5兆個のパラメータを扱うことが可能です。これは統合されたスタックでのみ可能であり、従来の最先端半導体の性能を大幅に凌駕し、より高速に推論と学習を行うことで、高品質なモデルをより低い総所有コストで実現できます。

SambaNova Systemsの共同創業者兼CEOのロドリゴ・リアンは、次のように述べています。「今日、SambaNovaはフルスタックの大規模言語モデルプラットフォームであるSambaNova Suiteを提供しています。この新しいインテリジェントなAI半導体によってGlobal 2000の大企業に画期的な変革をもたらすでしょう。SambaNovaはより大きなメモリと高速な演算コアの両方を1つの半導体で提供することができます。これによって企業はGPT-4以降に匹敵する独自の大規模言語モデルを所有することが可能になり、広範なAIの可能性を享受できるようになります。」

この新しいチップは、企業が生成AIを展開する際に抱える最大の課題を解決するSambaNovaのフルスタック大規模言語モデルプラットフォームの一要素に過ぎません。SambaNova Systemsの共同創業者のクンレ・オルコトンは次のように述べています。「小型モデルへのトレンドが見え始めていますが、依然として大きいことは良いことであり、大型モデルはよりモジュール化され始めるでしょう。顧客は、GPT-4のような1兆パラメータモデル級の能力を持つ大規模言語モデルを必要としていると同時に自社のデータを利用してファインチューニングされたモデルを所有するメリットも求めています。最も先進的なAI半導体である新しいSN40Lをフルスタックの大規模言語モデルプラットフォームに統合することで、モデルの精度を犠牲にすることなく、大規模言語モデルの推論と学習をより高いパフォーマンスで提供します。」

 SN40Lにより強化されたSambaNova Suite:

  • SN40Lは25万のシークエンス長で、5兆個のパラメータをシングルシステムノードで扱うことが可能です。これによってより高速な推論と学習が可能になり、高品質なモデルをより低い総所有コストで実現できます。
  • 大容量メモリを搭載することで、大規模言語モデルによる真のマルチモーダル機能が可能となり、企業はこれらのモダリティでのデータの検索、分析、生成が容易になります
  • 大規模言語モデルの推論の実行効率が向上するため、AIモデルの総所有コスト(TCO)が削減されます

創業以来6年間の技術革新とお客様からのフィードバックを元に、SambaNovaのエンジニアリングチームは、学習と推論にかかるコスト、シーケンス長の制限、大規模言語モデルの速度(または遅延時間)といった、AI実装に関するユーザーの課題について深く考え、大規模言語モデルを完全にモジュール化し、拡張できるように設計しました。これにより、ユーザーは推論性能を損なうことなく、モダリティや新しい分野の専門知識を段階的に追加し、モデルのパラメータ数を最大5兆個まで増やすことができます。

「SambaNovaのSN40L半導体はこれまでのものとは異なります。SN40LはHBM(広帯域メモリ)とDRAMの両方を利用できるので、AIアルゴリズムがそのタスクに最適なメモリを選択できるようになります。また他社の方法よりもはるかに大容量のメモリに直接アクセスできるようになります。それに加えてSambaNovaの再構成可能なデータフローアーキテクチャにより、疎なモデルの計算をより効率的に行うことができます。」とIDCでパフォーマンス インテンシブ コンピューティングのリサーチ副社長を務めるピーター・ラッテン氏は述べています。

SambaNova Suiteの新しいモデルと機能:

  • Llama2 70億パラメータモデルおよび700億パラメータモデル: 最先端のオープンソース言語モデルであり、ユーザーはこれらのモデルの所有権を保持したまま、利用可能な最高の大規模言語モデルを適応、拡張、実行することができます。
  • BLOOM 1,760億パラメータモデル:オープンソースコミュニティで最も正確な多言語基盤モデルで、ユーザーが多種多様な言語でより多くの問題を解決できるようにすると同時に、モデルを拡張して新しい低リソース言語をサポートできるようにしています。
  • ベクトルベースの検索補完生成(RAG)のための新しい埋め込みモデルは、ユーザーの文書をベクトル埋め込みに取り込むことを可能にし、Q&Aの過程で検索することができ、ハルシネーション(幻覚)を防ぎます。その結果を大規模言語モデルにより、情報の分析、抽出、要約を行うことができます。
  • 音声データの書き起こしおよび分析する世界最先端の自動音声認識モデル
  • マルチモーダルおよび長いシーケンス長の機能の追加
  • 妥協のない高帯域幅と大容量を実現する3層のデータフローメモリにより、推論にも最適化されたシステム

SambaNova Suiteについて

SambaNova Suiteは、企業や政府機関向けに最適化された、半導体からモデルまで世界初のフルスタックの生成AIプラットフォームです。インテリジェントなSN40L半導体によって強化されたSambaNova Suiteは、オンプレミスまたはクラウドで提供される完全に統合されたプラットフォームであり、最先端のオープンソースモデルを活用し、お客様自身のデータを利用して簡単かつ安全にファインチューニングを行うことが可能で、より高い精度を実現することができます。お客様は自身のデータを適用したモデルの所有権を永続的に保持できるため、生成AIを最も価値ある資産に変えることができます。

SambaNova Systemsについて

最先端の生成AI機能を企業内に迅速に展開するために、SambaNovaに注目が集まっています。SambaNovaのエンタープライズスケールのために構築されたAIプラットフォームは、次世代の生成AIコンピューティングのための技術的バックボーンです。

カリフォルニア州パロアルトに本社を置くSambaNova Systemsは、業界の著名人や、サン・マイクロシステムズ/オラクルおよびスタンフォード大学のハードウェアおよびソフトウェア設計の専門家によって、2017年に設立されました。投資家には、SoftBank Vision Fund 2、BlackRock、Intel Capital、GV、Walden International、Temasek、GIC、Redline Capital、Atlantic Bridge Ventures、Celestaなどが含まれています。詳細については、sambanova.ai をご覧いただくか、info@sambanova.ai までご連絡ください。LinkedInでSambaNova Systems をフォローしてください。

SambaNova Systems について

最先端の生成AI機能を企業内に迅速に展開するために、SambaNovaに注目が集まっています。 SambaNovaのエンタープライズスケールのために構築されたAIプラットフォームは、次世代の生成AIコンピューティングのための技術的バックボーンです。

カリフォルニア州パロアルトに本社を置くSambaNova Systemsは、業界の著名人や、サン/オラクルおよびスタンフォード大学のハードウェアおよびソフトウェア設計の専門家によって、2017年に設立されました。投資家には、SoftBank Vision Fund 2、BlackRock、Intel Capital、GV、Walden International、Temasek、GIC、Redline Capital、 Atlantic Bridge Ventures、Celestaなどが含まれています。sambanova.ai をご覧いただくか、info@sambanova.ai までご連絡ください。Linkedinで SambaNova Systems をフォローしてください。

お問合せ
SambaNova Systems Japan合同会社
林 憲一
kenichi.hayashi@sambanova.ai