Nächste Generation des SambaNova DataScale Systemsbricht den Rekord für die Trainingsleistung bei Sprachmodellen

AI Hardware Summit, Santa Clara, Kalifornien, 14. September 2022 — SambaNova Systems, Anbieter einer umfassenden Software-, Hardware- und Lösungsplattform zur Ausführung von KI-, Deep Learning- oder Basismodell-Anwendungen, kündigt sein DataScale-System der nächsten Generation an. DataScale ist ein vollständig integriertes Hardware-/Software-System, das es Unternehmen ermöglicht, ihren KI-Ansatz neu zu definieren.

Im Zuge des immer schneller voranschreitenden KI-Einsatzes stellen Unternehmen ihre taktischen KI-Implementierungen zunehmend auf skalierbare, unternehmensweite Lösungen um. SambaNova ermöglicht die Konsolidierung des KI-Wildwuchses und stellt Basismodelle bereit, die einmal trainiert werden müssen und im gesamten Unternehmen verwendet werden können.

„Das neue DataScale SN30-System erreicht im Vergleich zu den jüngsten Nvidia DGX A100-Systemen eine weltrekordverdächtige Leistung“, sagt Marshall Choy, SVP of Product bei SambaNova Systems. „Mit dieser Version bietet SambaNova auch Subskriptionspreise für DataScale und Dataflow-as-a-Service an, mit denen der ROI schneller erreicht und Risiken reduziert werden. Gleichzeitig skaliert diese KI-Architektur günstiger als jede andere KI-Infrastruktur.

Die nächste Generation von SambaNova DataScale bietet mehrere wichtige Verbesserungen:

• Bessere Leistung: GPT-Training erfolgt schneller ist als bei DGX A100 Systemen (GPT 13B)
• Prozessor der nächsten Generation: Eine verbesserte Cardinal SN30 Reconfigurable Dataflow Unit
• Unterstützung für die umfangreichsten Modelle: 12,8x mehr Terabytes an Speicherkapazität als DGX A100
• Verbesserte Full-Stack-Unterstützung: Verbessertes automatisiertes Ausrollen von Diensten und vereinfachte Skalierung
• Kundenorientierte Preisgestaltung: Subskriptionspreise für SambaNova Datascale jetzt verfügbar

„KI verändert Branchen und Organisationen so dramatisch wie das Internet“, sagt Rodrigo Liang, Mitbegründer und CEO von SambaNova Systems. „Die heutigen KI-Innovatoren – Banken, Energieunternehmen, Pharmaunternehmen und Forschungseinrichtungen – laufen ihren Mitbewerbern davon. Sie setzen ein KI-Backbone ein, das die nächsten zehn Jahre der Anwendungsentwicklung und -bereitstellung vorantreibt. Die Lösungen von SambaNova, als Subskription bereitgestellt, lassen KI-Strategien schneller und mit geringerem Risiko wachsen.“

SambaNova DataScale

DataScale ist ein vollständig integriertes Hardware-/Softwaresystem, das in wenigen Minuten installiert werden kann. Es ermöglicht Unternehmen, ihre eigenen kundenspezifischen, hochmodernen Deep-Learning-Systeme, Basismodelle und Deep-Learning-beschleunigte High-Performance-Computing (HPC)-Workloads zu trainieren und einzusetzen.  DataScale wird mit SambaNovas Deep-Learning-Expertise kombiniert und bildet die Grundlage für SambaNovas Dataflow-as-a-Service-Angebot. Damit können vortrainierte Basismodelle schnell analysiert, validiert und produktiv gemacht werden, um den größten Nutzen für Unternehmen und Organisationen zu erzielen.

Kundenzitate

„Wir freuen uns darauf, ein größeres Multirack-System der nächsten Generation von SambaNovas DataScale-Systemen einzusetzen“, sagte Bronis de Supinski, Chief Technology Officer (CTO) für Livermore Computing (LC) des  US-amerikanischen Lawrence Livermore National Laboratory (LLNL). „Die Integration dieser Lösung mit herkömmlichen Clustern in unserem gesamten Zentrum wird es uns ermöglichen, eine tiefere programmatische Wirkung zu erzielen. Wir rechnen mit einer zwei- bis sechsfachen Leistungssteigerung, da das neue DataScale-System eine deutliche Verbesserung der Gesamtgeschwindigkeit, Leistung und Produktivität verspricht.“

„Die OTP Group hat ein Multi-Rack-KI-System auf der Basis von SambaNova Dataflow-as-a-Service GPT implementiert und damit KI zu einem unserer wichtigsten Technologietreiber für die kommenden Jahre gemacht, indem wir ein NLP-Basismodell verwenden“, sagte Péter Csányi, stellvertretender CEO und Leiter der digitalen Abteilung bei der ungarischen Bank OTP. „Die Implementierung hat es uns ermöglicht, unser Engagement für unsere ESG-Standards zu verstärken, da die Lösung von SambaNova uns in die Lage versetzt hat, die höchste KI-Rechenleistung auf möglichst energieeffiziente Weise zu erreichen.“

„Die Argonne Leadership Computing Facility (ALCF) setzt ein Multirack-System der nächsten Generation von SambaNovas DataScale-Systemen im ALCF AI-Testfeld ein, das eine Infrastruktur für die nächste Generation von KI-Beschleunigungsmaschinen bereitstellt“, sagte Rick Stevens, Associate Laboratory Director und Argonne Distinguished Fellow am Argonne National Laboratory des US-Energieministeriums. „Wissenschaftler in Argonne und anderen Forschungseinrichtungen werden diese Plattform der nächsten Generation für eine Vielzahl von Anwendungsfällen testen, darunter große Sprachmodelle wie GPT für die Gengenerierung, 3-D-Faltungsnetze für die Neutrinophysik und die Vorhersage der Reaktion von Tumoren auf einzelne und gepaarte Medikamente. Wir erwarten eine zwei- bis sechsfache Leistungssteigerung für ein breites Spektrum von Anwendungen.“