第15回 自動チューニング技術の現状と応用に関するシンポジウム（ATTA2023） †

15th Symposium on Automatic Tuning Technology and its Application (ATTA2023)

↑

概要 †

　自動チューニング（Automatic Tuning：AT）は，ソフトウェアに自らを最適化する機能を組み込むことにより，多様な環境において優れた性能を実現することを目指すパラダイムです．省電力と高性能の両立が重要な課題であるスーパーコンピュータから携帯端末まで，あらゆる分野の情報処理に適用できる技術となるよう，研究が進められています．
　自動チューニング研究会では「自動チューニング技術の現状と応用に関するシンポジウム（ATTA）」と題して，自動チューニングに関係する研究プロジェクトの最新の研究成果を報告し，その応用と将来の研究展望を議論する場として，誰でも参加可能なシンポジウムを例年開催しております．今回で15回目となるATTA2023では，例年通り研究会員による自動チューニング関連の研究プロジェクトからのご講演に加えて，昨年に引き続き近い将来のスーパーコンピュータ環境に向けた自動チューニング技術の展望に関するパネルディスカッションを検討しております．自動チューニング技術およびスーパーコンピューティング・高性能計算の最新動向にご興味のある多くの皆様のご参加をお待ちしております．

↑

プログラム †

10:20-10:30　オープニング
大島聡史（自動チューニング研究会 主査・九州大学）
10:30-11:00　講演1　大規模言語モデルにおける分散並列化のしくみ
横田理央（東京工業大学）
講演概要
ChatGPTを始めとする大規模言語モデルは医療、科学、教育、金融、サービス業などのあらゆる場面で活用され始めており、これからの社会(Society 5.0)を駆動する技術となることが予想される。また、モデルとデータの規模が増大すると冪乗則にしたがって性能も向上することが経験的に分かっており、費用対効果が定量的に見積もれることが巨額の投資を後押ししている。このような大規模な学習では、GPUの性能を最大限に引き出し、4種類の分散並列化手法を組み合わせ、省メモリ・省I/Oを実現するような高性能計算の技術が集積されている。本講演では、このような大規模言語モデルに活用されている高性能計算の技術について紹介する。
11:00-11:30　講演2　（計算・データ・学習）融合による革新的スーパーコンピューティングとその先にあるもの
中島研吾（東京大学／理化学研究所），岩下武史（京都大学），八代尚（国立環境研究所），長尾大道（東京大学），下川辺隆史（東京大学），松葉浩也（日立製作所），荻田武史（早稲田大学），片桐孝洋（名古屋大学） ，住元真司（東京大学），荒川隆（東京大学・CliMTech）
講演概要
中島等は，科研費 基盤S「（計算＋データ＋学習）融合によるエクサスケール時代の革新的シミュレーション手法」（#19H05662）において，エクサスケール時代のスーパーコンピュータによる科学的発見の持続的促進のために，計算科学にデータ科学，機械学習の知見を導入した（計算・データ・学習）融合による革新的シミュレーション手法を提案し，その実現のためのソフトウェア基盤「h3-Open-BDEC」を整備している。当該科研費は2023年度末で終了するが，本講演では，これまでの研究成果，今後の展開について紹介する。
11:30-13:00　昼休み
13:00-13:45　招待講演　富岳と量子コンピュータをつなごう 〜量子HPC連携ハイブリッドプラットフォームの実現に向けて
辻美和子（理化学研究所）
講演概要
量子計算機は、量子力学の原理に基づくシステムで、古典計算機では解くことが難しいタイプの問題を高速に解決されることが期待されている。量子計算機は発展の途上にあり、量子回路最適化、回路のカッティング・ニッティング、それにエラー訂正・緩和など、量子計算機の開発と改善のために、大規模なスーパーコンピュータの果たす役割は大きいと考えられる。量子計算機は古典計算機を完全に置き換えるものではなく、将来の量子・古典の協調計算に向けた環境開発が重要とされる。本発表では、スーパーコンピュータ富岳と量子コンピュータを連結し、計算可能領域の拡大を目指す取り組みについて紹介する。
13:55-14:25　講演3　量子コンピューティング分野における自動チューニング技術活用の新展開
片桐孝洋（理化学研究所／名古屋大学）
講演概要
現在、特定の計算が古典計算機に対して高速化できると期待されることから、量子コンピュータや量子関連技術の研究開発が盛んである。一方で、今まで高性能計算分野で活発に研究されてきた自動性能チューニング（AT）技術は、量子関連技術の分野でも必須の技術であることかわかってきている。そこで本発表では、疑似量子アニーラや量子回路シミュレータにおける高速化や解の精度向上のためのAT技術の適用と、AT効果に関する事例について紹介する。
14:25-14:55　講演4　低精度計算を活用した混合精度型疎行列ソルバーの可能性
深谷猛（北海道大学）, Zhao Yingqi（北海道大学）, 岩下武史（京都大学/北海道大学）
講演概要
倍精度浮動小数点型（FP64）よりも低い精度の演算やデータの活用は，予想される今後の計算機システムを活用するための重要な研究課題の一つである．本発表では，我々がこれまでに行ってきた，低精度演算を活用した混合精度型疎行列ソルバーの研究開発の結果を紹介する．具体的には，倍精度型と単精度型を組み合わせた混合精度型ソルバーに関する各種数値実験結果（到達可能精度，収束までの反復回数，一般的なマルチコアCPU環境での実行時間）を報告する。また，より積極的にデータの精度を低下させた場合における数値的挙動に関する実験結果についても提示する。これらの実験結果を踏まえて，疎行列ソルバーにおける低精度計算の活用可能性について議論する．
15:05-15:35　講演5　一万計算コア超時代のGPUに向けたプログラム最適化と自動チューニングを考える
大島聡史（九州大学），伊田明弘（海洋研究開発機構），横田理央（東京工業大学），山崎市太郎（サンディア国立研究所）
講演概要
AI/LLM用途で人気の高いNVIDIA H100 GPUは1万6千を超えるFP32計算コアを有しており、FP64計算コアも8千を超えている。今後さらに計算コアの数が増加するかは定かでないが、1万前後の計算コアを有するGPUを対象としたプログラム最適化が必要な時代が到来していることは間違いない。このようなGPUの演算性能を最大限に発揮するには、実行対象となる計算にもそれ相応の並列度が必要である。しかし、常に1万超もの並列度で動作するようなプログラムばかりあるとは到底考えられず、CPU向けプログラムのGPU化を行う際に困ることになることは想像に難くない。そこで我々は、GPUの有するMPSやMIGなどの機能を活用したマルチプロセス実行によるGPU資源の有効活用について紹介し、その有効性と可能性について議論する。
15:35-16:05　講演6　高性能・高信頼な高水準言語の実装向け持続型例外処理機構の背景と展望
八杉 昌宏 (九州工業大学)，平石 拓 (京都橘大学) ※オンライン発表
講演概要
2023年度が最終年度となる基盤研究(B)「高性能・高信頼な高水準言語の実装向け持続型例外処理機構の理論と実践」では高性能・高信頼な高水準言語の実装向けに、実行中のソフトウェアが処理方式を実行時に切り替えることを可能とするための中間言語向けの言語機構等の研究を行ってきた。本講演では、その背景やこれまで知見、今後の展望について紹介する。
16:15-17:45　パネルディスカッション「2030年に向けた自動チューニング研究の展望」
モデレータ：大島聡史（九州大学）、パネリスト：（準備中）
概要
現在検討が進んでいるポスト「富岳」は2030年前後の稼働開始が予想されますが、その時代の自動チューニング研究とはどのようなものになるでしょうか？それまでにはどのような研究が必要でしょうか？自動チューニング研究者に加えて周辺分野の若手・中堅研究者の方にも加わっていただき、自由に議論したいと思います。
17:45-17:50　クロージング
桝井晃基（自動チューニング研究会 交流促進委員幹事・大阪大学）

お問い合わせ：大島 聡史（九州大学） E-mail: ohshima あっと cc.kyushu-u.ac.jp 「あっと」を半角＠に変換してください．

トップ   新規 一覧 単語検索 最終更新   ヘルプ   最終更新のRSS