インテル Gaudi 2E AIアクセラレータは、DeepSeek-V3.1向けに深度最適化サポートを提供開始しました。卓越した性能とコスト効率を兼ね備えたインテルGaudi 2Eは、より低い投資と高い効率で、モデルトレーニングの深度なブレークスルーから推論デプロイのリアルタイム応答…
インテル® Gaudi 2E AIアクセラレータは、DeepSeek-V3.1向けに深度最適化サポートを提供開始しました。卓越した性能とコスト効率を兼ね備えたインテルGaudi 2Eは、より低い投資と高い効率で、モデルトレーニングの深度なブレークスルーから推論デプロイのリアルタイム応答を実現し、大規模モデルの加速的な実用化に向けた新たな選択肢を提供します。
インテルGaudi 2Eは96GBの大容量メモリを搭載し、先進的なHBMコントローラーを備え、ランダムアクセスやリニアアクセスシナリオ向けに深く最適化されています。これによりAIトレーニングや推論タスクの遅延を効果的に回避し、計算プロセスの円滑性を保証します。インテルGaudi 2Eは卓越した拡張性を有し、マルチカード接続をサポートすることで、ユーザーに柔軟でカスタマイズ可能なソリューションを提供し、変化するAIニーズに対応します。
インテルGaudi 2Eは優れた適応性と使いやすさで、数多くの大規模モデルアプリケーションをサポートします。実測データによると、インテルGaudi 2Eのサポート下では、DeepSeek-V3.1は質問応答とコーディングの両方で能力が大幅に向上しています： 8枚のインテルGaudi 2Eを搭載したオールインワンサーバー上でDeepSeek-V3.1モデルを実行した場合、入力/出力トークン長が共に1k、マルチユーザー同時実行数が30の条件下で、各同時実行トークンの生成レートは毎秒10トークンを達成。入力/出力トークン長が共に2k、マルチユーザー同時実行数が28の条件下でも、各同時実行トークンの生成レートは毎秒10トークンを達成しました。
論理的に厳密な数学計算を要求する場合でも、分析能力を試す知識理解を必要とする場合でも、インテルGaudi 2EベースのDeepSeek-V3.1は迅速に応答し、効率的に解析を完了します。この強力な組み合わせは、問題解決の効率を大幅に向上させるだけでなく、ユーザーが多次元で高難度の推論シナリオにおいて障害を容易に克服することを支援します。
オープンなアーキテクチャ、強力な技術サポート、緊密なエコシステム連携を通じて、インテルはAI産業の革新と発展を継続的に推進し、AI大規模モデル技術の普及を加速させます。
連絡先電話：86-755-83294757
企業QQ：1668527835/ 2850151598/ 2850151584/ 2850151585
サービス時間：9:00-18:00
連絡先メールボックス：sales@hkmjd.com
会社の住所：広東省深圳市福田区振中路国利ビル1239～1241号室
CopyRight©2022 明佳達著作権の所有 広東ICP備05062024号-12
公式QRコード
友情リンク:
最新情報
