PCクラスタワークショップ in すずかけ台2024

NECは、５月に「お客様を未来へ導く価値創造モデル」として新ブランド「BluStellar」を発表しました。このブランドによるソリューションのご提供先の１つがアカデミアです。お客様の用途に最適な高性能プラットフォームをご提案し、構築から運用・保守までをトータルにカバーする総合的なHPCソリューションをご提供いたします。

GPU価格が高騰し入手が難しくなる中で、GPUの効率的利用が急務となっております。本発表はGPUの利用効率を引き上げることで少ないGPUでもより多くの深層学習を進める技術AI Computing Brokerをご紹介いたします。本技術はオンプレミスからクラウド、HPCに至るまでの様々な計算機環境を利用するユーザーへGPU利用効率向上をサポートします。

当社は短期目標として、AI領域の現場実装と、大規模データ技術開発に力を入れています。これまでの取り組みとしては、プロンプトチューニングやRetrieval-Augmented Generation（RAG）といった手法を使ってAIを活用してきました。現在は、特定のタスクに特化した言語モデルを作るために、ファインチューニングや、Small Language Model（SLM）の開発に力を注いでおります。
本セッションでは、これらの開発やGPUサーバーの導入について説明させていただきます。

生成 AI の出現により、AI はより身近に無視のできない社会インフラになりつつあります。そうしたスピードある要求に対応するため、インテルは HPC に加え AI により注力したポートフォリオの大幅な機能拡張を計画しています。このセッションでは、インテルの HPC/AI 関連の中長期の取り組みをご紹介します。

MI300AはZen4 EPYC CPUコアとCDNA3アーキテクチャのGPUコアを統合した、初のデータセンター向けAPUです。APUが実現するUnified Memoryによって、性能の向上が見込まれるだけでなく、従来必要とされてきたホスト・デバイス間の煩雑なメモリー管理を簡易化させることができます。本講演ではAPUプログラミング・モデルの概要と応用事例についてご紹介します。

2006年のCUDA発表から始まったアクセラレーテッドコンピューティングは、今やAIやHPCに欠かせない要素となりました。このセッションでは、GTC 2024で発表した最新のBlackwellアーキテクチャGPU、Green500ランキングの上位を独占したGrace Hopperスーパーチップなど、エヌビディアのコンピューティングプラットフォームの最新情報をお伝えします。

Oracle Cloud Infrastructure (OCI) では、NVIDIA H100やAMD MI300Xなどの最新GPUを含むベアメタルコンピュートやデータセンタワイドにフラットなTCP/IPネットワーク、低遅延のRDMAネットワーク、クラウドストレージなどによる高い性能再現性をお約束するHPC＆AI環境が簡単に安価にご利用頂けます。また、SINET接続ではクラウドとオンプレミスの間の転送データ量が "完全に無料" となります。講演ではGPU関連サービスを中心にOCIの特長を中心に紹介させて頂きます。

1. アカデミック向け大規模ラックスケールFusion Scale AI HPC
2. クラウドサービス向けFull Composable Larg Scale AI HPC
3. エンタープライズ向けAI native Large Scale HPC
4. インダストリー向けSingle Machine Big AI HPC(Big Memory/Big Accelerator)
5. エンジニアリング向けHyper Converged Cloud Scale AI HPC

mdxは全国9大学2研究機関が共同運営するCPU・GPUクラスタで、最近ではLLM-jpによる大規模言語モデルの構築に利用されています。mdxの特徴としては、基盤システムに仮想化技術を採用することで、研究プロジェクト単位でテナントを構築し、研究者自身がソフトウェア環境を構築可能になっています。本セッションでは、mdxの紹介と、LLM事前学習クラスタの構築経験から見えてきた今後の基盤構築に関する課題を紹介します。

EagleはTOP500 ランキングで第 3位を記録したスーパーコンピュータであり、Microsoft Azure上に構築された世界最速のクラウド型スーパーコンピュータです。このセッションでは先進的な Eagleの技術的特徴やユースケースをご紹介します。また、Eagle を支えるクラウド HPC 技術の特徴や実例も併せてご紹介します。

当社は国内最大級のGPU専用データセンターを構築し、業界最安値級のGPUクラウドサービス【GPUSOROBAN】を展開しています。GPUSOROBANは、使いやすいインターフェースと丁寧な技術サポートを提供しており、幅広い業種・業態の皆様に生成AIや機械学習、研究開発など、累計1000案件以上でご活用いただいています。

アルテアの粒子挙動解析ソフトウェアEDEMは粉粒体の現象を高精度に表現することが可能なソフトウェアである。ソフトウェアの機能向上により、ユーザーの"より粒子を多く、より早く"というニーズが年々高まっているが、EDEMはGPUソルバーの適用拡大によってこのニーズに応えている。本講演ではGPUを様々な現象や課題に対して適用した時の効果や、機能拡充の取り組み内容について紹介する。

ここ数年のAIブームの中、世界中でHPC向けに作られたスパコンでAIジョブをどう実行するかがホットトピックとなっていた。しかしその立場は逆転しつつあり、AI向けに作られたインフラ上でHPCジョブをどう動かすかを考えなくてはならない状況にある。科学技術計算も従来手法に加えAIを利用して多大な成果が得られはじめた。環境の統合と効率的な運用が求められている。弊社の取り扱い製品が、この時代にどう寄与するのかを紹介する。

九州大学情報基盤研究開発センターでは、新しい全国共同利用スーパーコンピュータシステム玄界を2024年7月に導入します。このシステムでは、旧システム「ITO」における科学技術計算の支援に加え、大規模言語モデルなどの新しい研究分野における需要に応えるとともに、データ駆動型研究やオープンサイエンスの推進を目指しています。本講演では、玄界のハードウェア、ソフトウェアおよび運用方針について紹介します。

筑波大学計算科学研究センターと東京大学情報基盤センターが合同で運営する「最先端共同HPC基盤施設(JCAHPC)」の第二世代システムは Miyabi と命名され、2025年1月稼働開始に向けた準備を進めている。本講演では、Miyabiの準備状況について、NVIDIA GH200を用いた予備評価も含めて報告する。

ROCmはプログラミング・モデル、コンパイラ、各種ライブラリ、プロファイラなどのツールから構成される、オープンソースのソフトウェアスタックです。HPCやAIのワークロードにおいて、ROCmがどのようにオープンソースとして活用されているのか、具体例を用いてご紹介いたします。

インテルではAI専用アクセラレータのGaudiを提供しており、今年後半にはGaudi3の出荷を予定している。Gaudiを活用して低コストで高効率に開発を行うために重要なOSSと開発者向けクラウドサービスの概要とGaudi2での活用事例を紹介する。

NECでは、国内最大級のAI研究用スーパーコンピュータを用いて、生成AIをはじめとして様々な先進AIの技術開発を行っています。多数のGPUを用いた大規模な分散学習を効率的に行うために、GPU性能を最大限に引き出すためのオープンソースの活用方法について説明します。

NVIDIA/AMD/Intelの3社は高性能GPUおよびそれぞれのGPU向けの開発環境を提供し，また自社製品をアピールする情報を多数発信している．こうした環境下でユーザがGPUベンダーやプログラミング環境を選択する際には、各GPU・開発環境を第三者的に比較した基礎研究事例が参考になると考えられる。そこで本講演では直接法に基づくN体計算コードを例題として取り上げ、CUDA/HIP/SYCL実装およびNVIDIA/AMD/Intel製GPU上での性能評価結果について紹介する。

This concise guide aims to equip users with the knowledge to set up, validate and test Open MPI for optimal performance on a cluster equipped with NVIDIA accelerators. It is targeted to a relatively experienced users or sysadmin that are ready to take the challenge to install their own version of Open MPI. We'll cover:
- Choosing the software ecosystem : Identifying compatible and stable versions of Open MPI, compilers, and libraries (gdrcopy, UCX, CUDA, etc.) for a successful build.
- High-Performance Build: Highlighting the key configuration options to achieve a high-performance Open MPI build.
- Verification and Optimization: Demonstrating methods to test the installation's functionality and identify performance bottlenecks specific to NVIDIA hardware.
By the end, you'll be well-positioned to leverage Open MPI effectively on your NVIDIA cluster.