SN40LはSambaNovaプラットフォームの心臓部であり、密な計算と疎な計算の両方を提供し、大容量メモリと高速メモリの両方を搭載する画期的な設計を採用し、真の「インテリジェント・チップ」となっています。
SN40Lは、単一のプラットフォーム上で学習と推論の両方を簡単に実行することができ、レガシーシステムの冗長性を排除し、エンタープライズグレードの生成AIを実現する最大規模の数兆パラメータモデルを強化します。
SN40 Lは再構成可能なデータフローアーキテクチャーを備えており、チップ全体でデータがどのように処理されるべきか最適になるように自動的にプログラムされ最適化されるため、従来のGPUテクノロジーと比較してハードウェアの使用率とメモリ消費量が劇的に改善されます。
SN40Lの鍵となるのは、超高速メモリ、高帯域幅、超大容量メモリの両方を含む新しい3層メモリ・アーキテクチャです。これにより、レガシーGPUベースのシステムで必要とされる高価な並列化なしで、現在および将来の最大規模の数兆パラメータ・モデルを扱うことができる。
密な計算と疎な計算の組み合わせと3層のメモリアーキテクチャにより、単一のプラットフォームで学習と推論の両方を効率的に実行することが可能になり、最大のモデルでこれらの機能のために複数のシステムを使用する必要がなくなります。
SambaNovaが貴社のAIイニシアティブをどのように推進できるかを知るためのミーティングをリクエストする