Products
Technology
Resources
Solutions
Community
About

SambaNova Fast API 発表

ご自身のチェックポイントを持参して、無料のAPIを使用して超高速の推論を利用できます

Mask-group-1

稲妻のように速い推論スピードを利用したいとお考えですか?SambaNovaのAPIは、チャットボットなどのAIアプリを簡単に構築するためのトークンベースのクレジットを無料でご利用いただけます。Llama 8B と Llamba 70B をベースにした独自のカスタム・チェックポイントを持ち込むことで、数百の半導体を取得するコストをかけることなく開始することができます。

SambaNovaのモデルの処理能力を活用して、プロジェクトを加速し、より速い成果を達成しましょう。特定のタスクに取り組んでいる場合でも、新たな可能性を模索している場合でも、SambaNovaのAPIはお客様のイノベーションを支援します。

含まれているもの

Llama3 8Bおよび70Bの専用URL、APIキー、ドキュメント

独自のチェックポイントの追加や、SambaNovaの計算リソースを使用したモデルのファインチューニング

無料のレート制限付きトークンクレジット

Samba-1を活用して、効率的にスマートに働こう

  • スピードを犠牲にすることのない、より大きなシーケンス長の入力処理
  • 精度を落とすことなく、完全な精度での高性能な推論
  • 再構成可能なデータフロー・ユニット(RDU)として知られる独自の半導体アーキテクチャにより、ミリ秒単位でモデル間の切り替え可能
  • AIエージェントワークフローを高速化するために、モデルを連鎖させたり、プログラムで組み立て可能

今すぐ始めて Samba-1プラットフォームとRDUチップの利点をご自分の目でお確かめください

Layer-2