分散メモリ向け並列言語XcalableMPにおけるユーザ定義データ分散機能の検討

全文

(1)Vol.2009-HPC-122 No.1 2009/10/9. 情報処理学会研究報告 IPSJ SIG Technical Report. 1. はじめに. 分散メモリ向け並列言語 XcalableMP におけるユーザ定義データ分散機能の検討. 分散メモリ並列計算機上のプログラミング手段としては，Message Passing Interface. (MPI) が現在広く用いられている．しかし，並列化のあらゆる手順を明示することを強いられる MPI プログラミングは，ユーザにとって負担が大きい．一方，より容易な並列プロ. 村井. 均†1,†2 佐. 藤三久†1. 朴. グラミングを可能にする手段として，High Performance Fortran (HPF)1) に代表される並. 泰祐†1. 列言語が提案されているが，並列化されたプログラムの性能の点で MPI に及ばなかったことから，広く普及するには至っていない2) ．. XcalableMP は，MPI や HPF に代わるプログラミング手段を目指して提案された分散メモリ向け並列言語である．我々は，XcalableMP におけるユーザ定義データ分散の機能を検討している．ユーザ定義データ分散は不規則問題の並列化において重要な役割を果たすと考えられる．本稿で提案する機能は，分散の性質を規定するいくつかの関数を指定することによって，ユーザがデータ分散を定義することを可能とするものである．本機能により柔軟なデータ分散を指定することが可能になるため， XcalableMP の適用範囲が広がることが期待される．. XcalableMP は，MPI や HPF に代わるプログラミング手段を目指して提案された並列プログラミング言語であり，従来の並列言語にはない種々の有用な機能を備えている3) ．特に，従来の並列言語ではうまく扱えなかった不規則問題に対しては，一部の HPF 処理系で実装されていたハロー（halo）と呼ばれる機能4),5) を採り入れることが検討されている．さらに，不規則問題へ向けた機能として，我々はユーザ定義データ分散の検討を行っている．本機能は，XcalableMP が標準で備える，ブロック，サイクリック，不均等ブロックと. A Design of User-Defined Data Distribution in XcalableMP. いった分散形式に加え，ユーザが独自の分散形式を定義することを可能とするものである．本機能を用いることで柔軟なデータ分散を指定することが可能になるため，XcalableMP の適用範囲が広がることが期待される．. Hitoshi Murai,†1,†2 Mitsuhisa Sato†1 and Taisuke Boku†1. 以下，2 章で関連研究について述べ，3 章で XcalableMP の仕様を概観する．その後，4 章でユーザ定義データ分散の機能について，5 章でその実装方式について検討する．最後に，. 6 章で今後の課題について述べ，7 章で本稿を総括する． XcalableMP is a parallel language for distributed-memory multiprocessors, designed to serve as an alternative to MPI and HPF. We are studying userdefined distribution in XcalableMP, which has a crucial role in the parallelization of irregular problems. In this paper we propose a feature that allows users to define new data distribution by giving a set of functions that specify the characteristics of the distribution. We expect that this feature enables more flexible data distribution and extends the range of application of XcalableMP.. 2. 関連研究 XcalableMP のデータ分散機能は，HPF のそれをベースとする．HPF では，ユーザが独自の分散形式を定義することはできないが，標準の分散形式のパラメータ（e.g. ブロック分散のブロックサイズ）をユーザが指定することにより，種々のアプリケーションに対応する．我々の知る限り，分散メモリ向け並列言語において任意の分散を記述することに言及したのは，文献 6) が最初である．ここでは，著者らが開発する並列言語 Vienna Fortran において，対象の配列を分散または整列する方法を記述する特殊な関数を定義することにより. †1 筑波大学大学院システム情報工学研究科 Graduate School of Systems and Information Engineering, University of Tsukuba †2 NEC 第一コンピュータソフトウェア事業部 1st Computers Software Division, NEC. ユーザ定義分散を実現することが提案されている．. Cray 社が開発している並列プログラミング言語 Chapel は，オブジェクト指向の機能を備えている．Chapel においては，標準のデータ分散を含む任意のデータ分散は，クラス. 1. c 2009 Information Processing Society of Japan °.

(2) Vol.2009-HPC-122 No.1 2009/10/9. 情報処理学会研究報告 IPSJ SIG Technical Report. distribution の派生クラス（のインスタンス）として表される．したがって，ユーザは，データ. distribution の派生クラスを独自に定義することにより，任意の分散形式を定義できる7) ．. 3. XcalableMP データ. 3.1 概. 要. テンプレート. 整列. XcalableMP は，次世代並列プログラミング言語検討委員会（以下，委員会と呼ぶ）にお. ノード集合. 分散. いて検討されている，分散メモリ向け並列プログラミング言語である．その主な特徴を以下に挙げる．. データ. • 指示文ベース図 1 XcalableMP におけるデータ分散のモデル. データ分散，通信，ループ並列化などは，ベース言語である C または Fortran の指示文の形式で記述する．. • 明示的な並列化. 結果として，配列は，テンプレートを介してノード集合へ分散される?1 ．. プログラムの実行は，SPMD モデルに従う．指示文により明示的に指定された場合に. テンプレートは，並列処理の対象である集合（e.g. 差分法における格子点の集合, 粒子法. のみ処理系はループの並列化や通信の生成を行うため，ユーザはプログラムの挙動や性. における粒子の集合）を表しており，XcalableMP における並列化の基準となる．ノード. 能を予測しやすい．. は，XcalableMP の計算機モデルにおいて，固有のメモリと CPU（複数のコアがあっても. • グローバルビュー並列化とローカルビュー並列化. よい）を持つ構成単位である．テンプレートを分散する先であるノード集合は，ノードを要. プログラムが扱う問題全体を各ノードに分配する方法を記述することにより並列化を行. 素とする配列として表現される．. うグローバルビュー並列化（e.g. HPF）と，各ノードが実行すべき処理を記述するこ. ここで，XcalableMP における整列および分散は，次元毎に独立して指示されることに注. とにより並列化を行うローカルビュー並列化（e.g. MPI）の両方が可能である．. 意されたい．すなわち，整列を配列のインデックス空間からテンプレートのインデックス空. • ハイブリッド並列化. 間への写像と考え，分散をテンプレートのインデックス空間からノード集合のインデックス. MPI または OpenMP との併用が可能である．また，ローカルビュー並列化において. 空間への写像と考えたとき，XcalableMP における整列および分散は，次元毎の写像の直積. は，Fortran 2008 の coarray 機能をベースとする片側通信を利用できる．. として表現できる．. 3.2 データ分散. 3.2.2 align 指示文. 3.2.1 モデル. align 指示文は，配列をテンプレートに整列させる方法を指定する．具体的には，配列の. 図 1 に示すように，XcalableMP におけるデータ分散は，整列と分散という二段階の処. 各要素を，テンプレートのいずれかの要素に関連付ける．その構文は次の通りである．. 理によって実現される．. !$xmp align array-name(align-source [,align-source]...). まず，データ（ほとんどの場合，配列）は，テンプレートと呼ばれる仮想的な（メモリに. with template-name(align-subscript [, align-subscript]…). 割付けらない）配列に対して整列する．次に，テンプレートは，ノード集合へ分散される．. ?1 「分散」という用語は，2 つの異なる意味で用いられる．狭義の分散は，テンプレートに対する操作である．広義の分散は，データに対する操作である．本稿では，特に区別を要する場合，後者を「データ分散」と呼ぶ．. 2. c 2009 Information Processing Society of Japan °.

(3) Vol.2009-HPC-122 No.1 2009/10/9. 情報処理学会研究報告 IPSJ SIG Technical Report. ! $xmp align a ( i ) with t (i -1). 1. 1. 図 2 align 指示文の例：配列 a の要素 i は，テンプレート t の要素 i-1 に整列する．. ! $xmp distribute t ( block ) onto p. 図3. ここで，align-source は次のいずれかである．. 1. • scalar-int-variable. 2. • *. 3. distribute 指示文の例：テンプレート t は，ノード集合 p へブロック形式で分散される．. ! $xmp shadow a (1:2) ... ! $xmp reflect a. align-subscript は次のいずれかである．図 4 shadow 指示文と reflect 指示文の例：配列 a のローカル部分の下端側に幅 1，上端側に幅 2 のシャドウが付加される．. • scalar-int-variable {+|-} int-expr • * HPF とは異なり，XcalableMP では，配列要素 a(i) をテンプレート要素 t(2*i) に整列. 渡しすることが必要になる．この「近傍通信」を効率よく行うために，配列を分散して各. させるような，「ストライドのある」整列を指定できないことに注意されたい．ストライドの. ノードのローカルメモリに割付ける際に，通信用のバッファとして余分な領域をあらかじめ. ある整列を用いる必要がある場合には，後述するように，補助的なテンプレートを用いる．. 付加しておくことが一般的に行われる．この余分な領域をシャドウと呼ぶ．. align 指示文の例を，図 2 に示す．. XcalableMP の shadow 指示文は，指定した幅のシャドウを配列に付加することを指示す. 3.2.3 distribute 指示文. る．reflect 指示文は，shadow 指示文で付加されたシャドウに対する近傍通信を指示する．. distribute 指示文は，テンプレートをノード集合へ分散する方法を指定する．その構文. すなわち，XcalableMP におけるシャドウは，近傍通信のためのバッファであると同時に，. は次の通りである．. 近傍通信のスケジュールを指定する役割を持つと考えられる．. shadow 指示文の例を，図 4 に示す．. !$xmp distribute template-name(dist-format [, dist-format]...) onto nodes-name. 3.3 計算の分散. dist-format として，次のいずれかを指定できる．. XcalableMP における計算の分散は，次のいずれかの方法により指定される．. • *. • task 指示文. 当該次元は分散されない（「オンプロセッサ」分散）. 続くブロック内の各文を実行すべきノードを指定する．. • block. • loop 指示文. ブロック分散. 続くループの各イタレーションを実行すべきノードを指定する．. • cyclic[(int-expr)]. • array 指示文. サイクリック分散またはブロック・サイクリック分散. 続く配列代入文の要素毎の処理を実行すべきノードを指定する．. • gblock(int-array). いずれの指示文も，データ分散と同様に，各々の文，イタレーションまたは要素毎の処理. 不均等ブロック分散. が整列するべきテンプレートの要素を指定することにより間接的にノードを指定する．計算. distribute 指示文の例を，図 3 に示す．. の分散を指定する各指示文の例を図 5 に示す．. 3.2.4 shadow 指示文. 前述のように XcalableMP における全ての通信は明示されなければならないことから，. 並列化された近傍計算コードでは，分散境界上のデータを，隣接するノードとの間で受け. task，loop，array の各指示文が修飾するブロック，ループ，配列代入文の内部の全ての. 3. c 2009 Information Processing Society of Japan °.

(4) Vol.2009-HPC-122 No.1 2009/10/9. 情報処理学会研究報告 IPSJ SIG Technical Report. 1 2 3. • グローバルインデックス関数：integer function L2G(j). ! $xmp task on t (1) a (1) = 0 ! a (1) への代入は， t (1) のオーナによって実行される． ! $xmp end task. ローカルインデックス関数の逆関数．原理的には，owner のみを与えれば，処理系は分散を実現できる（G2L と L2G を，処理系. 4 5 6 7 8. が自動的に生成することが可能である）．しかし，処理系による自動的な生成は一般には困. ! $xmp loop on t ( i ) do i = 1 , 100 a(i) = 0 ! a(i) への代入は， t(i) のオーナによって実行される． end do. 難である上，ユーザが書く最適なものに比べ性能的に劣る場合が多い．したがって，本研究では，G2L と L2G をユーザが定義することを必須とする．新しく定義した分散形式によりデータを分散するには，次のようにする．. 9 10 11. ! $xmp array on t a (:) = 0. ! aの各要素への代入は，対応するtの要素のオーナに ! よって実行される．. (1). 上記の関数群をモジュール手続きとして含むモジュール（分散定義モジュールと呼ぶ）を作成し，dist_format 指示文によって新しい分散形式として宣言する．. (2). 図 5 計算の分散の例. ( 1 ) で宣言した分散形式（モジュール名）を，distribute 指示文の dist-format に指定する．. データ参照はローカルである（通信を必要としない）．言い換えれば，処理系が，それらの. 本方式は，オブジェクト指向の機能を利用する Chapel のユーザ定義分散機能に比べて，. データ参照がローカルでない場合の結果を保障する必要はない．. 拡張性や再利用性に劣るものの，実装が容易であるという利点を持つ．図 6 に，ユーザ定義分散の例を示す．ここでは，標準のブロック形式と等価な分散形式. 4. ユーザ定義データ分散. を，ユーザ定義分散の機能によって定義している．ブロック分散のパラメータであるブロッ. 4.1 関数によるデータ分散の定義. クサイズ blk_size を，distribute 指示文に先立って定義しておく必要がある．. 4.2 ユーザ定義データ分散における近傍通信. 次元毎の分散は，テンプレートのある次元のインデックス集合から，対応するノード集合の次元のインデックス集合への写像として定義される．このような写像は，1 個の整数値. 標準の分散形式とは異なり，配列要素の隣接関係が必ずしも自明ではないユーザ定義分散. （テンプレートのインデックス）を引数として受け取り，1 個の整数値（ノード集合のイン. では，通常の shadow 指示文によってシャドウを指定することができない．そこで，シャド. デックス）を返す関数（オーナ関数と呼ぶ）として表現できる．. ウの拡張であるハローを用いて，近傍通信を指定する．. ユーザ定義分散は，オーナ関数を含む次の 3 つの関数を与えることにより定義される．. ハローは，分散された配列に関し，各ノードにおける「近傍要素」=「近傍通信の対象」. • オーナ関数：integer function owner(i). をグローバルインデックスによって指定する機能である4),5) ．通常のシャドウと同様に，ハ. テンプレートのインデックス i を配置するべきノードのインデックスを返す．. ローに対する近傍通信は reflect 指示文によって指示できる．. • ローカルインデックス関数：integer function G2L(i). 委員会において現在検討されている，ハローを宣言する方法を，図 7 を用いて説明する．. • 成分として一次元整数型ポインタ配列のみを持つ構造型の一次元配列であるハロー配列. ノード owner(i) における，i に対応するローカルなインデックスを返す．G2L は，同一のノード内において狭義単調増加かつ全射でなければならない．すなわち，. を宣言する．ハロー配列のサイズはプロセッサ数 nnodes に一致させる（1∼5 行目）．. owner(i) = owner(j) を満たす i, j において，i < j ⇒ G2L(i) < G2L(j). • ハロー配列の要素 i の成分 halo(i)%index には，プロセッサ i がハローとして保持す. かつ，. べき配列要素のグローバルインデックスを設定する（9∼11 行目）．. ノード p 上の任意のローカルインデックス k に対し，p = owner(i) かつ. • shadow 指示文において，シャドウ幅の代わりにハロー配列を指定する（16 行目）．. k = G2L(i) を満たす i が存在する．. 4.3 テンプレートの連携. が成り立つ．. 3.2.1 節で述べたように，テンプレートは，XcalableMP における並列化の基準である．. 4. c 2009 Information Processing Society of Japan °.

(5) Vol.2009-HPC-122 No.1 2009/10/9. 情報処理学会研究報告 IPSJ SIG Technical Report. 1 2 3. ! $xmp dist_format my_block ... ! $xmp distribute t ( my_block ) onto p. type halo_type integer , pointer :: index (:) end type halo_type. 1 2 3 4. type ( halo_type ) :: halo (nnodes). 5 1. module my_block. 6. 2 3 4. 8 10. contains. 11. 7 8 9 10 11. halo (1)% index = (/6 , 7/) halo (2)% index = (/2 , 3/) halo (3)% index = (/5 , 6/). 9. 5 6. .... 7. integer blk_size .... 12. integer function owner ( i ) integer , intent ( in ) :: i owner = i / blk_size end function owner. .... 13 14 15 16. ! $xmp distribute a ( my_block ) onto p ! $xmp shadow a ( halo ). 12 13 14 15 16. integer function G2L ( i ) integer , intent ( in ) :: i G2L = mod (i , blk_size ) end function G2L. 図7. 定義モジュールにおいて，他の分散定義モジュールを参照（use）すればよい．. 17 18 19 20. integer function L2G ( i ) integer , intent ( in ) :: i L2G = blk_size * (me - 1) + i. 図 8 は，有限要素法コードにおけるデータ分散の例を示す．節点上のデータを表す配列 n がテンプレート t に整列しており，t は my_block 形式で分散されている．疎行列である係. ! me は自ノードのインデックス. 21 22. ハローの宣言の例. 数行列 a は，通常，Compressed Row Storage (CRS) 形式で，一次元の配列の形で格納さ end module. れる．a を，行列の各行に相当する 8 個の区間（各区間の切れ目は，別の配列 row_ptr によって示される）に分割し，それら各区間を t の各要素に整列させることが望ましいが，t. 図 6 ユーザ定義分散の例. に対する通常の整列では，このようなデータ分散を表現できない．したがって，解くべき問題に応じて一つのテンプレートを宣言し，プログラム中に現れる. そこで，図 9 に示すように，別のテンプレート aux_t を用いて a のデータ分散を指定す. データおよびループをそれに対して整列するのが，XcalableMP における並列化の基本的な. る．aux_t は，モジュール crs で定義される分散形式により分散される．モジュール crs. スタイルとなる．. の 3 行目において，テンプレート t の分散形式を参照するために，モジュール my_block が. しかし，分散したいデータが複雑な構造を持つなどの理由により，たとえテンプレートの. use されている（併せて，名前の衝突を避けるために，my_block 中の関数 owner に対して. 分散をユーザ定義データ分散機能によって記述したとしても，望むデータ分散を表現できな. 局所名が指定されている）．. い場合がある．このような場合には，特定のデータの分散を記述するために，補助的なテン. 5. 実. プレートを用いることが考えられる．このとき，あるテンプレートの分散（owner，G2L お. 装. よび L2G）を定義する際に，他のテンプレートの分散を参照できれば，両者の間に任意の関. 典型的な XcalableMP コンパイラは，XcalableMP のソースプログラムを入力され，SPMD. 係を持たせる（連携させる）ことができる．他のテンプレートの分散を参照するには，分散. 化された C または Fortran のソースプログラムを出力するトランスレータとして実装され. 5. c 2009 Information Processing Society of Japan °.

(6) Vol.2009-HPC-122 No.1 2009/10/9. 情報処理学会研究報告 IPSJ SIG Technical Report. n. t 整列. a. 1. 1. 2. 2. 3. p(1). 4 3. ! $xmp dist_format my_block , crs ! $xmp template :: t (8) ! $xmp distribute t ( my_block ) onto p. 5. p(2) 4. 6. ! $xmp align n ( i ) with t ( i ). 7. 5. p(3). 8 6. 9. ! $xmp template :: aux_t (28) ! $xmp distribute aux_t ( crs ) onto p. 10. 7. p(4). 11. ! $xmp align a ( i ) with aux_t ( i ). 8. 図 8 有限要素法コードにおけるデータ分散 1. module crs. 2. る8) ．ユーザ定義分散機能は，XcalableMP コンパイラが本来備える，標準のデータ分散機. 3. use my_block , only my_block_owner = > owner. 4. 能を拡張して実現する．. 5. 5.1 分散配列記述子. .... 6 7. 実行時に，XcalableMP ランタイムライブラリは，分散されたテンプレートまたは配列に. contains. 8. 関する記述子を管理する．この記述子には，当該テンプレートまたは配列の分散状態を含む. 9. 種々の情報が格納される．特に，テンプレートがユーザ定義分散によって分散されていると. 10. き，記述子には，モジュール中で定義された owner，G2L および L2G へのポインタが格納さ. 12. れている．. 13. 11. 14. 記述子に格納された関数ポインタは，次に挙げる 2 種類の方法で用いられる．. 15. integer function owner ( i ) integer , intent ( in ) :: i find j s.t. row_ptr ( j ) <= i < row_ptr ( j +1) owner = my_block_owner ( j ) end function owner ... end module. • 出力ソース中で分散配列の要素のオーナやローカルアドレスなどの情報を知る必要がある場合，コンパイラは，記述子から関数ポインタを取得し，関数呼出しを行うコードを. 図 9 テンプレートの連携の例. 生成する．. • ランタイムライブラリ内で，分散配列の要素のオーナやローカルアドレスなどの情報を. ルインデックス関数より求めることができる．例えば，「!$xmp align a(i) with t(i+b)」という整列を指定されている配列 a のローカルインデックス関数 G2L_a は，テンプレート. 知る必要がある場合，記述子から関数ポインタを抽出し，関数呼出しを行う．. 5.2 分散配列のメモリレイアウト. t のローカルインデックス関数 G2L_t より次のように得られる．. 処理系が，（ユーザ定義分散により分散された配列を含む）分散配列を各ノードのローカルメ. G2L_a(i) = G2L_t(i+b). モリに割り付けるには，いくつかの方法が考えられる．本研究では，文献 9) で提案されている，. ここで，ローカルインデックス関数が狭義単調増加かつ全射であることから，分散前のテ. インデックスをローカル化して連続領域に割り付ける方法を想定する．このとき，分散された. ンプレートまたは配列において上限と下限の組で表される区間は，分散後のテンプレートま. 配列要素のローカルインデックスと，対応するテンプレート要素のローカルインデックスが一. たは配列においても（各ノード毎に）上限と下限の組で表せることが重要である．図 10 は，分散配列のメモリレイアウトの様子を示す．テンプレート t(1:12) は，4 ノー. 致するような割り付けを行えば，配列のローカルインデックス関数をテンプレートのローカ. 6. c 2009 Information Processing Society of Japan °.

(7) Vol.2009-HPC-122 No.1 2009/10/9. 情報処理学会研究報告 IPSJ SIG Technical Report. 1. 定義分散機能により分散されているとする．owner と G2L は，それぞれ t および a のオー. ! $xmp dist_format my_cyclic. ナ関数とローカルインデックス関数である．nnodes は，t が分散されるノード集合のサイ. 2 3 4 5. ! $xmp nodes p (4) ! $xmp template t (1:12) ! $xmp distribute t ( my_cyclic ) onto p. ズを示す．. • task 指示文の変換図 11 のコードは，t(i) のオーナノードが，a(k) に対する代入を実行することを指示. 6 7 8. real a (2:12) ! $xmp align a ( i ) with t ( i ). している．task 指示文自体が，t(i) のオーナノードが自ノードであるか否かを判定する条件分岐へ変換されるとともに，a の添字式がローカル化される．ここで，me は自ノードのインデックスである．. ローカルインデックス. 1. a(2:12). 2. 3. 1. 2. 3. 5. 9. 2. 6 10. 1. 2. 3. 3. 7 11. 1. 2. 4. 8 12. • loop 指示文の変換. 3. 図 12 のコードは，t(k) のオーナノードが，do ループの繰り返し k において，a(f(k)) （f(k) は任意の k の式）および a(k+c)（c は整定数式）に対する代入を実行することを指示している．処理系は当該ループを並列化するために，ループの上下限をローカ. t(1:12). 1. 5. 9. 2. 6 10. 3. 7 11. 4. 8 12. 1. 2. 3. 1. 2. 1. 2. 1. 2. p(1) 図 10. 3. p(2). p(3). 3. ル化する（変換後のコードの 3 行目と 4 行目）．ow_glb と ow_gub は，それぞれ，自. 3. ノードが保持する領域の上限と下限のグローバルインデックスである．. p(4). 一般に，a の添字式 f(k) は，G2L(f(L2G(i))) に置き換えられる（変換後のコードの 6. 分散配列のメモリレイアウト. 行目）．ただし，実際には，a の添字式は k+c の形である場合が多いと考えられる．その場合には，より簡単な i+c に置き換えることができる（変換後のコードの 7 行目）．. ドに my_cyclic 形式（標準のサイクリック形式と等価）で分散されている．配列 a(2:12). なお，変換されたソース中に現れる owner，G2L および L2G は，できる限りインライン. の要素 i は t の要素 i に整列する．その結果，例えば，ノード p(2) には，a(2)，a(6)，. 展開することが性能の観点からは望ましい．. a(10) が割り当てられ，それらのローカルメモリ上のインデックスは順に 1，2，3 となる．. 6. 今後の課題. a の下限は 2 であり，t(1) に整列すべき a(1) は存在しないため，p(1) においてローカル. 今後の課題として，以下のようなものが挙げられる．. インデックス 1 の位置のメモリは使用されない．. • 実装と評価. 5.3 ハローユーザ定義分散とハローは，互いに直交する機能である．したがって，ハローの設定や. XcalableMP 処理系にユーザ定義分散機能を実装する．有限要素法などの不規則問題を. reflect 指示文を実行するランタイムライブラリが必要に応じて owner や G2L を参照する. 扱うプログラムに本機能を適用して実行性能を評価することにより，本機能の有効性を. 限り，ユーザ定義分散のための特別な処理は不要である．. 実証する．. • 分散定義の詳細化. 5.4 コード変換コンパイラは，文献 9) の方法に従って，ユーザ定義分散機能により分散された配列の出. 提案したユーザ定義分散機能では，分散を定義するのに owner，G2L および L2G の 3. 現やループを SPMD 化する．. つの関数を必須とした．しかし，これら 3 つ以外の関数（たとえば，ローカルサイズ. 図 11 および図 12 を用いて，コンパイラが行うコード変換を説明する．配列 a には. を返す関数）が定義されていれば，より効率の良い並列コードを生成できる可能性があ. 「!$xmp align a(i) with t(i)」という整列が指定されており，テンプレート t はユーザ. る．どのような関数が有用か，それらを処理系でどのように利用できるかを検討する．. 7. c 2009 Information Processing Society of Japan °.

(8) Vol.2009-HPC-122 No.1 2009/10/9. 情報処理学会研究報告 IPSJ SIG Technical Report. 1. real a ( n ). 2 3 4. 1. 様に採用されることを目指し，本機能を委員会に提案していきたい．. 2. ! $xmp task on t ( i ) a ( k ) = .... 3 4 5. ⇓ 1. クプログラムによる評価を行うことは今後の課題である．また，次の版の XcalableMP 仕. real a ( n ). 6. ! $xmp loop on t ( k ) do k = 1 , n a (f( k )) = ... a ( k + c ) = .... 謝辞 XcalableMP の仕様は，次世代並列プログラミング言語検討委員会による．. 参考. 2 3 4 5 6. if ( owner ( i ) == me) then j = G2L ( k ) a ( j ) = ... end if. 1. 4 5 6. 図 11 task 指示文の変換. real a ( n /nnodes). 2 3. 7. lb = G2L ( max (1 , ow_glb )) ub = G2L ( min (n , ow_gub )) do i = lb , ub a ( G2L (f( L2G ( i )))) = ... a ( i + c ) = .... 図 12. 献. 1) High Performance Fortran Forum: High Performance Fortran Language Specification Version 2.0 (1997). 2) Kennedy, K., Koelbel, C. and Zima, H.: The Rise and Fall of High Performance Fortran: An Historical Object Lesson, Proc.3rd ACM SIGPLAN History of Programming Languages Conf. (HOPL-III), San Diego, California, pp.7–1–7–22 (2007). 3) 超並列プログラミング言語検討委員会：XcalableMP 仕様書 Version 0.5J，http: //www.xcalablemp.org/xmp-spec-0.5J.pdf. 4) Benkner, S.: Optimizing Irregular HPF Applications Using Halos, Concurrency – Practice and Experience, Vol.12, No.2–3, pp.137–155 (2000). 5) 村井均，阿南統久，林康晴，末広謙二，妹尾義樹，奥田洋司，横川三津夫：並列化コンパイラ HPF/ES の不規則問題向け機能，情報処理学会研究報告, 2002-HPC-90， Vol.2002, No.51, pp.61–66 (2002). 6) Chapman, B., Mehrotra, P. and Zima, H.: User Defined Mappings in Vienna Fortran, ACM SIGPLAN Notices, Vol.28, No.1, pp.72–75 (1993). 7) Diaconescu, R.E. and Zima, H.P.: An Approach to Data Distributions in Chapel, Int’l. J. High Performance Computing Applications, Vol. 21, No. 3, pp. 313–335 (2007). 8) 李珍泌，朴泰祐，佐藤三久：分散メモリ向け並列言語 XcalableMP コンパイラの試作と評価，情報処理学会研究報告， Vol.2009–HPC–121, No.6, pp.1–10 (2009). 9) 岩下英俊，青木正樹：HPF トランスレータ fhpf における分散種別を一般化したコード生成手法，情報処理学会論文誌:コンピューティングシステム， Vol.47, No.SIG12 (ACS15), pp.329–339 (2006). 10) Chavarr´ıa-Miranda, D. and Mellor-crummey, J.: Toward Compiler Support for Scalable Parallelism using Multipartitioning, Proc. 5th Workshop on Languages, Compilers, and Runtime Systems for Scalable Computers, Lecture Notes in Computer Science, Springer-Verlag, pp.272–284 (2000).. ⇓. real a ( n /nnodes). 文. loop 指示文の変換. • 複数の次元にまたがる分散本稿で提案した機能で表現できるのは次元毎の分散に限られ，例えば Rice 大の dHPF コンパイラが備える multipartitioning10) のような，複数の次元にまたがる分散は表現できない．実際には，複数の次元のインデックスを引数として受け取る owner，G2L および L2G を定義すれば，複数の次元にまたがる分散を定義すること自体は可能である．しかし，そのような分散を指定されたテンプレートに整列する多重ループを SPMD 化する方法は一般に自明ではないため，コンパイラが自動的にそれを行うことは困難である．ループを抽象化して扱うための，Chapel のイタレータ（iterator）のような機能があれば，ユーザが多重ループを SPMD 化する方法を指定できるため，複数の次元にまたがる分散を表現することも可能になると考えられる．. 7. おわりに本稿では，並列プログラミング言語 XcalableMP において，ユーザが独自のデータ分散形式を定義できる機能の検討を行った．この機能により，より柔軟なデータ分散を指定することが可能になり，XcalableMP の適用範囲が広がることが期待される．本機能の有効性を実証するために，XcalableMP 処理系への本機能の実装と，ベンチマー. 8. c 2009 Information Processing Society of Japan °.

(9)