本日はDeepSeekオープンソースウィーク2日目となり、DeepSeekチームは約束通りオープンソースコードライブラリDeepEPをリリースしました。これは、MoE（Mixture of Experts）モデル向けに特別に設計されたEP（Efficient Parallelism）通信ライブラリです。このライブラリの登場により、MoEモデルの学習と推論のための専用通信ツールが提供され、大規模分散AI学習やリアルタイム推論シナリオにおける効率性の低さという問題を解決します。

以下は、DeepEP の技術的なパフォーマンス特性の一部を簡単に紹介したものです。

1. 高効率通信アーキテクチャ：DeepEP は全対全通信モードの最適化をサポートし、ノード内およびノー​​ド間の NVLink および RDMA 相互接続を実現し、データ転送の効率を大幅に向上させます。

2. マルチ精度とスケジューリングの最適化: DeepEP は FP8 の低精度演算スケジューリングをネイティブにサポートし、コンピューティング リソースの消費を効果的に削減します。

3. 高性能カーネル: トレーニングや推論の事前入力シナリオに適した高スループットのカーネル設計により、データ処理能力が最大化されます。

4. 低レイテンシカーネル: 推論およびデコードのシナリオでは、純粋な RDMA 通信と適応ルーティング テクノロジを使用して、レイテンシを効果的に削減します。

5. リソース制御とオーバーラップ メカニズム: 柔軟な GPU リソース制御戦略により、コンピューティングと通信プロセスの効率的なオーバーラップが実現され、リソースのアイドル状態を回避します。

6. 高度な最適化シナリオ: NVLink から RDMA への非対称帯域幅転送シナリオに対して特別な最適化が実行され、異種ネットワークでの伝送パフォーマンスが向上します。

さらに、DeepEPは、トレーニングや推論などのさまざまなタスクのスループット要件のバランスをとるために、SM（ストリーミングマルチプロセッサ）の数を動的に制御することをサポートしています。（Suky）