ハイブリッドスパコン「地球シミュレータ」は第5世代へ――JAMSTECの上原氏と松岡氏に聞く：AIとの融合で進化するスパコンの現在地（8）（2/4 ページ）

[関行宏，MONOist]

研究ニーズに応えて第4世代はハイブリッド構成を採用

――現在の第4世代（ES4）はどのようにアーキテクチャを決めていったのでしょうか？

上原氏　第4世代の検討を始めたのは2019年頃です。地球科学の研究にディープラーニングを取り入れたいという声の他、インテルアーキテクチャ上で研究をしている他の研究機関のソフトウェアがそのまま動かせる環境で共同研究をしたい、といった声がユーザーである研究者から挙がってきました。そこで一般的なインテルアーキテクチャ互換のCPUをベースに、NECのベクトルプロセッサ「SX-Aurora TSUBASA」（以下、VE）と、ディープラーニングなどに適したNVIDIA GPU A100を組み合わせたハイブリッドな構成にしました。導入のタイミングが新型コロナの時期だったため、計画していた2021年3月に運用を開始できるかどうか、私を含めて関係者はハラハラドキドキでした。

第4世代となる地球シミュレータ（ES4）の外観。マシンルームにはこのほかに、約60PBの大容量ストレージや、大型のテープライブラリ（連載第7回の図8）が設置されている。［クリックで拡大］ 撮影：関行宏

ES4のサイドパネルには有人潜水調査船「しんかい6500」や海の生き物のイラストが描かれている。海洋研究を担うJAMSTECならではの遊び心と言えよう［クリックで拡大］ 撮影：関行宏

――それが、それぞれCPUノード、VE搭載ノード、GPU搭載ノードになるわけですね（連載第7回の図5、図6を参照）。

上原氏　そうです。それぞれを独立したシステムにしてしまうと連携効率が下がりますので、インターコネクトで接続して、ストレージも共通にしました。その結果、例えばCPUノードでデータのプリ処理を行って、そのデータをVE搭載ノードに与えて地震や台風の計算をして、その結果をGPU搭載ノードで学習させる、といった連携も効率良く行えます。正直なところ最初はとっぴなアイデアではないかと懸念していましたが、その後似たようなマルチアーキテクチャのシステムがアメリカや世界各地でも登場し、結果的には先鞭（せんべん）をつけた形になりました。

――地球シミュレータでは一貫してベクトル型が採用されてきました。今でこそNVIDIA GPUで構成したスパコンが増えていますが、1975年に発表されたクレイ・リサーチのCray-1を筆頭に、ベクトル型はかつてスパコンの代名詞でした。

上原氏　複数の変数をまとめて処理できるベクトル型は地球科学のような計算に適しています。実際に地球科学の計算処理に近いHPCG（High Performance Conjugate Gradient）という線形ソルバーのベンチマークでも、ベクトル型は効率が高く、そういった意味で地球科学にあったアーキテクチャを選び続けてきました。また、地球シミュレータで採用しているNECのベクトルプロセッサは、一般のプロセッサと比べてメモリ帯域がとても広いという特長があって、その点も科学技術計算には有利です。例えば、ES4のCPU（AMD EPYC7742、2.2GHz、64core）1個当たりのメモリ帯域幅は204.8GB/sですが、VEの1個当たりのメモリ帯域幅は7倍以上の1.53TB/sもあります。

一般的なスカラー処理（上）と、地球シミュレータで採用されているベクトル処理（下）の模式図。ループ文を逐次的に処理するスカラー型に対して、ベクトル型は複数の変数に同一の処理を一度に適用できる［クリックで拡大］ 出所：海洋研究開発機構

2022年11月版のTOP500におけるRmax（LINPACK）ベンチマークとHPCGベンチマーク。実効性能の高さを表す「HPCG/Rmax」において、理化学研究所の「富岳」を含めた他のシステムが1〜3％台なのに対し、地球シミュレータは7.3％と突出した効率を示している［クリックで拡大］ 出所：海洋研究開発機構

――とはいえベクトル型を採用しているスパコンは今や少数派になってしまいました。

上原氏　ベクトル型って時代遅れですよね、といわれることもあるのですが、全くの誤解で、例えばインテルやAMDのプロセッサに搭載されているAVX命令やAVX2命令は広義のベクトル処理の一種といえるSIMD命令ですし、NVIDIA Grace CPUに搭載されているNEON命令やSVE命令もSIMD命令です。現代の高性能プロセッサにも広義とはいえベクトル処理といえる技術が息づいていることは知っておいていただきたいなと思います。