…David Schubmehl, Hayley Sutherland, Nov. 2019 最先端の大規模言語モデルの適用 新しいコンテンツの生成 LLMは、従来の自然言語処理モデルをはるかに超える人間レベルの精度で言語データを理解し、質問やプロンプトに基づいて、文脈に応じた新しい言語を生成することができます。 非構造化データからインサイトを引き出す 組織のデータの80%は、情報量の多い電子メール、顧客との通話記録、ナレッジベース、レポートなどの非構造化データであり、従来のシステムやビジネス・ワークフローでは解釈することができません。大規模言語モデル(LLM)を使用することにより、組織はこれらの閉じ込められた洞察を引き出し、ビジネスを改善することができます。 非構造化データからインサイトを引き出す 組織のデータの80%は、情報量の多い電子メール、顧客との通話記録、ナレッジベース、レポートなどの非構造化データであり、従来のシステムやビジネス・ワークフローでは解釈することができません。大規模言語モデル(LLM)を使用することにより、組織はこれらの閉じ込められた洞察を引き出し、ビジネスを改善することができます。 22倍高速な結果 Dataflow-as-a-Service は、これらのモデルの学習、更新、管理の複雑さを大幅に軽減し、企業データの管理と取り込みを合理化し、組織全体の透明性と監査可能性を向上させます。 すぐ利用可能なファンデーションモデル SambaNova Dataflow-as-a-Service™ GPTは、事前にトレーニングされたGPTファンデーションモデルを提供し、企業独自の環境において無制限のファインチューニングや事前トレーニングを行うことにより、世界最高精度を達成することができます。 すぐ利用可能なファンデーションモデル SambaNova Dataflow-as-a-Service™ GPTは、事前にトレーニングされたGPTファンデーションモデルを提供し、企業独自の環境において無制限のファインチューニングや事前トレーニングを行うことにより、世界最高精度を達成することができます。 Dataflow-as-a-Service GPTは、NLPのための最先端のファンデーションモデルへの最も速く、最も簡単で、保証されたパスです 価値創造までの時間短縮 Dataflow-as-a-Service は、モデルのトレーニング、更新、管理の複雑さを大幅に軽減し、企業データの管理と取り込みを合理化し、組織全体の透明性と監査可能性を向上させます。 比類ない柔軟さ…

…複雑な作業を専門家に任せる 始めるのにお困りですか? SambaNovaは、お客様の迅速な立ち上げとトレーニングを可能にすることで、展開までの時間を劇的に加速することができます。 心に響く適切なサービスを提供する 商品と顧客データをサポートするカスタマイズされたレコメンデーションソリューションを迅速に構築し、よりキュレートされたエンドユーザーエクスペリエンスを提供することが可能です。 AIを活用した迅速な立ち上げ SambaNova は、AIと機械学習の専門家によって完全に管理されたサブスクリプションベースのレコメンデーションサービスにより、立ち上げと稼動を従来のソリューションよりも短期間で行えるようにします。 AIを活用した迅速な立ち上げ SambaNova は、AIと機械学習の専門家によって完全に管理されたサブスクリプションベースのレコメンデーションサービスにより、立ち上げと稼動を従来のソリューションよりも短期間で行えるようにします。 Dataflow-as-a-Service for Recommendation は 最先端のレコメンダーシステムを実現するための、最も早く、最も簡単で、最も確実な方法です   AIイノベーションを加速する より精度の高いレコメンデーションシステムを迅速に導入し、ユーザビリティとユーザー満足度を向上させることができます。 MLの専門性を強化 より意味のあるパーソナライゼーションによってユーザーエクスペリエンスを向上させ、アップセルやクロスセルの機会を最大化します。 最先端の技術を実現する SambaNovaはお客様のモデルやアルゴリズムを常に最新の状態に保ち、新しいデータにリアルタイムで対応できるようにします。 レコメンデーションソリューションをSambaNovaにご相談ください。 加速するAIサービス DATAFLOW-AS-A-SERVICE 包括的なサービス、モデル、プラットフォームを提供する Dataflow-as-a-Service により、カスタマイズされたAIソリューションを自信を持って展開することができます。 DATAFLOW-AS-A-SERVICE…

…例えば、10,000枚の画像を用いたコンピュータビジョンソリューションの開発・展開において、GPUを用いたプロジェクトよりも最大で24か月の期間を短縮することができます。 柔軟なビジョンソリューションでより多くのことを実現 画像の撮影方法に応じてカスタマイズされたソリューションを構築することで、従来の限られたアプローチでは実現できなかった高い精度を実現します。 時間とコストをかけずに真の解決を実現 2Kでも50Kでも、SambaNova は、AIと機械学習の専門家によって完全に管理されたサブスクリプションベースのコンピュータビジョンサービスにより、真の解像度で迅速に稼働させることができます。 時間とコストをかけずに真の解像度を実現 2Kでも50Kでも、SambaNova は、AIと機械学習の専門家によって完全に管理されたサブスクリプションベースのコンピュータビジョンサービスにより、真の解像度で迅速に稼働させることができます。 Dataflow-as-a-Service for Vision は、最先端の真の解像度を持つコンピュータビジョンを実現するための、最も速く、最も簡単で、最も確実な方法です AIイノベーションを加速する 高解像度の画像が持つ本来の可能性を、回避策なしで確認することができます。 MLの専門性を強化 ドメイン専門家を煩雑な作業 (ラベル貼りなど) から解放し、価値創造に集中させることができます。 最新の状態を保つ SambaNovaはお客様を最先端に導き、モデルとテクニックを継続的に強化していきます。 真の解像度のコンピュータビジョンソリューションをSambaNovaにご相談ください。 加速するAIサービス DATAFLOW-AS-A-SERVICE 包括的なサービス、モデル、プラットフォームを提供する Dataflow-as-a-Service により、カスタマイズされたAIソリューションを自信を持って展開することができます。 DATAFLOW-AS-A-SERVICE FOR LANGUAGE…

…は、AI言語ソリューション開発に効率的でスケーラブルなアプローチを提供します。ローコードのAPIを提供することで、使いやすさと精 度の大幅な向上を実現します。 オンプレミスでもクラウドでも クラウドでの展開をご希望の場合は、これらの強力なエンタープライズ機能のすべてを、当社のパートナーシップを通じてクラウドサービスとして提供することができます。 使いやすさ、実装のしやすさ、推論のしやすさを追求したローコードAPI群 構築、採用、実験の必要性を排除することで、モデルの開発と展開にかかる時間を7倍加速 オンプレミスでもクラウドでも クラウドでの展開をご希望の場合は、これらの強力なエンタープライズ機能のすべてを、当社のパートナーシップを通じてクラウドサービスとして提供することができます。 使いやすさ、実装のしやすさ、推論のしやすさを追求したローコードAPI群 構築、採用、実験の必要性を排除することで、モデルの開発と展開にかかる時間を7倍加速 Dataflow-as-a-ServiceTM GPT は、ビジネスクリティカルな言語ベースのAIソリューションへの最も速く、最も簡単で、最も信頼できるパスです 市場投入までの時間を短縮 ソリューションの開発から導入まで、時間のかかる実験を減らし、NLPイノベーションを加速します。 MLの専門性を強化 NLPの専門家は、ハードウェアやインフラストラクチャの煩わしさから解放され、ビジネスの付加価値に集中することができます。 先手を打つ お客様がドメイン固有のデータを提供し、SambaNova が最新のGPTモデルやテクニックを提供します。 GPTソリューションをSambaNovaにご相談ください。 加速するAIサービス DATAFLOW-AS-A-SERVICE FOR LANGUAGE NLPで飛躍的な効率化を実現しながら、機械学習の専門家をより価値の高い取り組みに集中させることができます。 DATAFLOW-AS-A-SERVICE FOR VISION 機械学習の画像処理や解析は、解像度がすべてです。…

AIの複雑さを専門家に任せる Dataflow-as-a-ServiceTMは、AIワークロードの迅速な開発、展開および高速化を支援 します。SambaNovaは、さまざまなAI機能やプラットフォームを含む包括的なサービスを提 供し、お客様はカスタマイズされたソリューションを自信を持って展開できるようになります。 ゼロから一夜にしてSOTA(State-of-the-Art)へ 12~18ヶ月の時間を節約し、専門家により完全に管理されたアプリケーションサービスをすぐに稼働させることができます。 自然言語処理 高解像度コンピュータビジョン レコメンダーシステム 最も早く、最も簡単で、保証されたAIへの道 機械学習の専門知識を強化 ハイパースケーラーでなくても、ワールドクラスの機械学習を展開できます。 機械学習チームは、退屈な繰り返し作業ではなく、戦略的イニシアティブに集中できます。 シームレスに常に最新 継続的なアップデートで、常に時代の最先端を行くことができます。テキスト要約、画像分類とセグメ ンテーション、レコメンダーエンジンなど、最新のAPIとタスクを利用できます。 シームレスに常に最新 継続的なアップデートで、常に時代の最先端を行くことができます。テキスト要約、画像分類とセグメ ンテーション、レコメンダーエンジンなど、最新のAPIとタスクを利用できます。 AIイノベーションを加速する あなたのデータを活用し、カスタマイズされたソリューションをクラス最高の精度で展開します。 SambaNovaのテクノロジーと専門知識は、お客様がAIリーダーとして活躍するための力となり ます。 シンプルなサブスクリプションによる強力なAI Dataflow-as-a-Service は、あなたの機械学習チームの専門知識を高めるよう設計されてお り、固有の要件を満たすクラス最高のソリューションを提供します。 関連リソース SOLUTION BRIEF…

背景 リカレントニューラルネットワーク（RNN）は、製造分野では予知保全におけるLSTMモデル、医療分野ではCovid-19創薬におけるGRUベースのエンコーダとデコーダ、金融の時系列予測など、異なる産業で広く使用されています。RNNは基本的に時系列の予測問題で動作するように設計されています。RNNはフィードフォワードニューラルネットワークではなく、フィードバックニューラルネットワークであるため、学習が困難です。RNNは、信号が前方にも後方にも移動し、数値や値がネットワークにフィードバックされる、さまざまな「ループ」をネットワーク内に含むことがあります。 GPUでRNNを扱う課題：並列処理プロセッサ上での逐次計算 RNNモデルは逐次的であり、RNNでは多くの小さな演算が再帰的に起こるため、多くの小さな演算コアを持ち並列に計算を行うGPUアクセラレータには適していません。その結果、逐次計算ではGPUの計算能力を十分に活用することができません。もっとわかりやすく言うと GPUはカーネル単位で実行しますが、RNNは基本的に多くの小さなカーネルが再帰的にループする構造である。 RNNの計算ではオフチップメモリアクセスとカーネルディスパッチのコストは無視できない。 そのため、RNNのような演算パターンではGPUの使用率が低く、効率が悪いため、特に推論や学習のパフォーマンスが低下する原因となります。 SambaNovaの再構成可能なデータフローアーキテクチャがRNNの性能を加速させる理由 SambaNovaの再構成可能なデータフローアーキテクチャ（Reconfigurable Dataflow ArchitectureTM）は、アルゴリズム、コンパイラ、システムアーキテクチャ、最先端シリコンを含むすべてのレイヤーでイノベーションを取り入れた、新しいコンピューティングアーキテクチャです。再構成可能なデータフローアーキテクチャでは演算ロジックを空間的にパイプライン化し、プログラマブルなデータアクセスによって、データ移動を最小限に抑える、柔軟なデータフロー実行モデルを提供します。再構成可能なデータフローアーキテクチャの中核はネイティブなデータフロー処理とプログラマブルなアクセラレーションを実現するために設計された次世代プロセッサ、SambaNova Reconfigurable Dataflow UnitTM（RDU）です。具体的には、大容量オンチップメモリとメタパイプライン実行を用いることで、RNNは以下のような恩恵を受けることができます。 RNNモデルのグラフは、カーネル単位の実行モデルを用いずに、RDUにマッピングされる。 カーネル単位の実行モデルでのホストからアクセラレータへのディスパッチのコストがないため、オフチップメモリアクセスのオーバーヘッドは削減される。. SambaNovaのソフトウェア・ハードウェア統合スタックは、GRU、RNN、LSTM、その他のカスタム時系列モデルなど、あらゆるリカレントモデルにおいて、超高速オンライン推論とバッチ学習パフォーマンスを実現します。グラフ全体をより効率的にRDUにマッピングし、高い利用率と並列計算による最適化された性能を導入してすぐに実現出来ます。このように、SambaNovaはGPUに対して必然的な優位性を持っています。 RDUとGPUによるLSTMとGRUの性能比較 様々なLSTM/GRUモデル構成で実験した結果、オンライン推論性能で4倍、小規模LSTM学習性能で5倍、中・大規模GRU学習性能で2倍程度の高速化が確認されました。SambaNovaのRDUとNVIDIA A100の比較性能は表1の通りです。 表1.RDUとA100の性能比較 注 1) BS=24, input_size=[25, 64], hidden_size = [64, 64],…

ライフサイクル全体を通じて、最新の産業用NLPモデルはリズムに従います。 それらは、1回限りのタスクにとらわれない事前トレーニングから始まり、その後、急速に変化するユーザーデータに関するタスク固有のトレーニングを経ます。 これらの定期的に更新されるモデルは、最終的には、アプリケーションからの大規模なオンライン推論要求を処理するために展開されます。 現在活発な研究の傾向は、オンライン推論のためにBERTのような最先端のNLPモデルを展開することです。 モデルが毎年大きくなるにつれて、これらのモデルをリアルタイムパイプラインに展開する方法についての議論が高まっています。 実用的な展開を可能にするために、大きなモデルをコンパクトなバリアントにまで蒸留するためのさまざまな手法が開発されてきました。 デジタルアシスタントや検索エンジンなどのアプリケーションでは、これらのコンパクトなモデルは、サービスレベルの要件を満たす低遅延で高精度のモデルを実現するための鍵となります。 SambaNova Systemsは、単一のSambaNova Systems Reconfigurable Dataflow Unit（RDU）スケールから複数のSambaNova DataScaleシステムスケールまで、これらのコンパクトなモデルを探索および展開するためのソリューションを提供し、低遅延、高精度のオンライン推論のために従来のアクセラレーターに比べて前例のない利点を提供します。 RDUでのデータフロー実行の実証済みの能力 GPUでのコンパクトモデルのレイテンシーは、カーネルベースの実行モードによって基本的に制限されます。 バッチサイズ1のオンライン推論の場合、コンテキストスイッチングのオーバーヘッドと、オペレーションカーネルのオフチップウェイトメモリアクセスが、従来のアーキテクチャのレイテンシを支配する可能性があります。 SambaNova RDUは、SambaNova Systems Reconfigurable Dataflow Architecture（RDA）に基づいて構築されており、この障壁を取り除きます。 具体的には、最近提案されたコンパクトなBERTモデルであるTinyBERTで、RDUは、一般的なテキスト分類タスクであるMNLIのV100GPUよりも5.8倍のレイテンシースピードアップを達成できます。 図1：オンライン推論のレイテンシーの比較 デジタルアシスタントや検索エンジンなどのアプリケーションでは、入力データはシーケンス長が短い自然言語トークンです。たとえば、「サンフランシスコの天気は？」などのスマートフォンアシスタントクエリです。 これらのタイプのシナリオでは、シーケンス長の短縮は通常、コンパクトモデルによって達成される精度にほとんど影響を与えません。 これは、RDUの遅延の利点と深く結びついているもう1つの特性です。 コンパクトモデルの場合、GPUのレイテンシはシーケンス長が短くなると飽和しますが、RDUのレイテンシはシーケンス長が短くなると向上します。 図2に示すように、TinyBERTモデルは、プロキシとして使用するMNLIベンチマークタスクで、64〜256のシーケンス長にわたって最先端のモデル精度と一致させることができます。…

一つの目標、一つのミッション AIが実現する企業 私たちは SambaNova Systems です。 次世代のコンピューティングを創造するために2017年にカリフォルニア州パロアルト市に設立された当社のミッションは、先進的な研究で開発したAIのイノベーションを世界中の企業に提供することです。 業界の著名人、ハードウェア・ソフトウェア設計の専門家、そしてサン/オラクルやスタンフォード大学の世界的なイノベーターによって設立された当社は、AIをあらゆる場所であらゆる人に提供することを目指しています。 SambaNova Systems Reconfigurable Dataflow Architecture は、アルゴリズムからシリコンまで、SambaNova Systems DataScale を強化する Software-Defined Hardware アプローチです。 当社のイノベーションは、今日のソリューションの限界を超えて、AIを加速し、コンピューティングの新時代を切り開きます。 「コンピュータ業界はいまかなり大きな変革の時期を迎えています。これまではAIが牽引してきましたが、今後20~30年のマクロレベルでは、AIや機械学習よりも大きな変化が起こるでしょう。」 – SambaNova Systems 共同創業者兼CEO、Rodrigo Liang 当社は次世代コンピューティングの先駆者として、データセンターから クラウド、そしてエッジまで、次世代のAIアプリケーションなどを実行するための業界最先端のシステムプラットフォームを構築してきました。 データからモデルを生成する機械学習の利用は、コンピュータに明示的な命令を書くという従来のアプローチに取って代わるものです。 物体検知、レコメンデーション、音声合成、言語翻訳など、従来のプログラミングでは解決が難しかった問題が、機械学習によって段階的に機能向上しています。…

Enterprise-Grade Large Language Models Made Simple & Accessible Introducing Dataflow-as-a-ServiceTM GPT Lead Your Enterprise Into the AI Enabled Future Apply to Join SambaNova ELEVAITE OTP銀行は1700万人以上の顧客に SambaNovaによる パーソナライズされた AIベースの金融サービスを提供します OTP Bank…

…background_enable_color=”off” background_image=”https://sambanova.ai/wp-content/uploads/2022/09/SNS-Homepage-Dataflow-as-a-Service-Hero@2x.png” background_enable_image=”on” hover_transition_speed_curve=”ease-in-out” custom_css_before=”Display: none;” custom_css_main_element=”Display: none;” custom_css_after=”Display: none;” global_colors_info=”{}” button_text__hover_enabled=”off|desktop” sticky_transition=”on”] Dataflow optimized. Foundation models. 100% subscription pricing. [et_pb_slide heading=”Foundation models and deep learning for science” button_text=”Find Us…