差分方程式に変換して数値計算を行う
CCS HPCサマーセミナー 並列数値計算アルゴリズム
51
数値計算:フーリエ変換
84
CCS HPCサマーセミナー 並列数値計算アルゴリズム
51
カーネルベンチマークコード 開発の目的 エクサスケール規模のシミュレーションの核となる数値計算アルゴリズムの中で 特に重要なものについて 数値計算ライブラリ等を用いてそのコストを推定するためにカーネルベンチマークを作成し 評価に使用する 対象計算アルゴリズム 固有値計算 ( 実数密行列 標準固有値計
26
数値計算で学ぶ物理学 4 放物運動と惑星運動 地上のように下向きに重力がはたらいているような場においては 物体を投げると放物運動をする 一方 中心星のまわりの重力場中では 惑星は 円 だ円 放物線または双曲線を描きながら運動する ここでは 放物運動と惑星運動を 運動方程式を導出したうえで 数値シミュ
11
アウトライン ( 古典 ) 分 動 学計算とは ( 古典 ) 分 動 学計算の概要 運動方程式 数値解法 場 境界条件 実例 タンパク質 リガンド間の結合自由エネルギー予測 (MP-CAFEE 法 )
39
Microsoft Word - 03-数値計算の基礎.docx
17
数値計算:常微分方程式
86
複雑な立体形状を捉える [3 次元計測 ] カラーカメラでの画像処理では 侵入者を抽出するために 画像の変化を検出する差分処理 ( 背景差分 フレーム間差分 ) を行う しかし 侵入者が 背景と類似した服を着用していると 輝度の違い ( コントラスト ) がなくなり 分離が難しくなる 3 次元情報が
6
としてもよいし,* を省略し, その代わりにスペースを空けてもよい. In[5]:= 2 3 Out[5]= 6 数値計算 厳密な代数計算 整数および有理数については, 厳密な計算がなされます. In[6]:= Out[6]= In[7]:= Out[7]= 2^
11
光電気変換型コヒーレント光信号再生の研究 Study on Opto-Electronic Coherent Signal Regeneration (1) 光信号を電気信号に変換せず 光のままで雑音除去や波形整形を行う全光型の再生器と (2) 光信号を一旦電気信号に変換して再生処理を行い その後に
5
数値計算ライブラリの使用方法 「実習編」
31
ST 計算 1: このST 計算は 放射トラハ ー計算や 開放トラハ ー計算で新たにトラハ ー杭を設置した後 逆放射トラハ ー計算や後方交会計算を行う前の杭間の距離を確認する時に使用して下さい 2:8の時 方向角も出る様にして有りますが 参考値程度でお考え下さい PROGRAM-NO.1 番 No
7
再分割アルゴリズムを用いた力学系の定常分布の数値計算
8
数値計算による瀬戸内海の潮汐・潮流計算と海水交換について
11
JAXA Repository AIREX: スカラー保存則の保存型差分近似の数値粘性とエントロピー条件適合性
29
連立1次方程式Ax=bの解法:公式にしたがって解くのは,計算量大
13
圧縮性LESを用いたエアリード楽器の発音機構の数値解析 (数値解析と数値計算アルゴリズムの最近の展開)
11
ランダムウォークの境界条件・偏微分方程式の数値計算
38
2.2 支配方程式および離散化手法本研究では, キャビティ流れにおける流れと音の連成を再現するため, 流れと音の直接数値解析を行う. 支配方程式は式 (1) に示す三次元圧縮性 Navier-Stockes 方程式であり, 有限差分法による直接計算を行った. Qt x k F k F 0 νk ここ
8