PCCC AI/機械学習技術部会 第４回ワークショップ（HPC-AI AC 第３回日本カンファレンスとの共同開催）

This talk will focus on challenges and opportunities in designing middleware for HPC, AI (Deep/Machine Learning), and Data Science on modern heterogeneous systems. We will start with the challenges in designing runtime environments for MPI+X programming models by considering support for multi-core systems, high-performance networks (InfiniBand, RoCE, and Slingshot), GPUs, and emerging BlueField-2 DPUs. Features and sample performance numbers of using the MVAPICH libraries will be presented. For the Deep/Machine Learning domain, we will focus on MPI-driven solutions to extract performance and scalability for popular Deep Learning frameworks (TensorFlow and PyTorch), large out-of-core models, and Bluefield-2 DPUs. MPI-driven solutions to accelerate data science applications like Dask will be highlighted.

In the Center for Computational Sciences, University of Tsukuba, we started the public use of our new supercomputer "Pegasus" from April 2023. The uniqueness of the system is (1) Intel Optane 300 persistent memory with 2TB/node of capacity, (2) NVIDIA H100 GPU for high performance of AI and HPC processing, (3) Intel Sapphire Rapids generation of CPU, and (4) NVIDIA NDR200 high performance InfiniBand interconnection. We believe that the combination of the latest technologies of GPU and large capacity memory will open the new era of HPC and AI computing. In this talk, I will present the overall system of Pegasus and the research target on advanced HPC and AI.

理化学研究所は、理研内横断プロジェクトとして「Transformative Research Innovation Platform of RIKEN platforms（TRIP）」を推進することとしており、その一環として、量子コンピュータ（QuantumComputing: QC）とスーパーコンピュータ（High Performance Computing:HPC）を連携するためのシステムソフトウエアの研究開発を進める計画です。本講演では、理研内の量子コンピュータの研究について紹介し、理化学研究所計算科学センターでの量子HPC連携プラットフォームの研究開発の概要と計画についてご説明いたします。

量子計算機は、量子力学の原理に基づくシステムで、古典計算機では解くことが難しいタイプの問題を高速に解決されることが期待されている。量子計算機は発展の途上にあり、量子回路最適化、回路のカッティング・ニッティング、それにエラー訂正・緩和など、量子計算機の開発と改善のために、大規模なスーパーコンピュータの果たす役割は大きいと考えられる。量子計算機は古典計算機を完全に置き換えるものではなく、将来の量子・古典の協調計算に向けた環境開発が重要とされる。本発表では、量子計算機の発展に向けてスーパーコンピュータが果たす役割と、将来の量子・古典の協調計算に向けた遠隔手続き呼び出し (RPC) に基づくプログラミング開発実行環境について述べる。

分子の電子状態を理論的に明らかにする量子化学計算は量子コンピュータの計算ターゲットとして注目を集めています。本発表では高精度量子化学計算のための量子アルゴリズム開発の現状と当分野におけるスパコンの利用例について紹介します。

AI計算と量子関連計算は膨大な演算あるいはメモリ性能を必要とするアプリケーションであり、HPC技術の応用によって、これらの課題を解決できる。本発表では、HPC技術とこれを応用して実現したAI計算や量子シミュレータ技術について説明する。

NECは1999年に世界で初めて固体量子ビット動作実証に成功して以来、20年位以上わたり超伝導量子コンピューティングの研究開発をしている。本講演では、近年取り組んでいる量子アニーリングおよび誤り耐性型汎用量子コンピュータの研究開発状況について紹介する。

東工大のTSUBAMEスパコンシリーズは「みんなのスパコン」をキャッチフレーズとし、現在は3世代目が稼働中である。現世代および次世代のTSUBAME4におけるAI/機械学習への対応を中心に解説する。