行列の演算
HPCS5 5/5/9 5年ハイパフォーマンスコンピューティングと計算科学シンポジウム High Performance Comuting Symosium 5 などの行列とベクトルの演算 Level- 演算 は 演算回数 に対して必要となるデータ量が多く マルチコア計算機に おいて高い実行性能を実
9
超高速行列演算チップの作成
81
電気磁気学 ( つづき ) 平成 22 年度井瀬潔 4 通年学修単位 2 必修 [ この授業で習得する 知識 能力 ] 電磁気学についての数理に関する理論的理解と計算力 1. 電磁気学に必要な数学の基礎学力 ( 三角関数, 行列 ), ベクトルの基本演算 ( 内積, 外積, 微分演算子, 発散, 勾
22
電気磁気学 ( つづき ) 平成 23 年度井瀬潔 4 通年学修単位 2 必修 電磁気学についての数理に関する理論的理解と計算力 1. 電磁気学に必要な数学の基礎学力 ( 三角関数, 行列 ), ベクトルの基本演算 ( 内積, 外積, 微分演算子, 発散, 勾配, 回転 ), 微分, 偏微分, 積分
22
ハードウェア記述言語を用いた行列演算専用回路設計
73
Excelを用いた行列演算
30
FPGAを用いた行列計算専用プロセッサの設計
139
行列計算専用大規模集積回路の開発
82
線形代数演算ライブラリBLASとLAPACKの 基礎と実践1
77
線形代数演算ライブラリBLASとLAPACKの 基礎と実践1
93
線形代数演算ライブラリBLASとLAPACKの 基礎と実践1
72
インテル® コンパイラーの浮動小数点演算における結果の一貫性
14
疎な転置推移確率行列
11
FPGA による画像処理演算器の設計
6
FPGAによる画像処理演算の研究(カメラ画像の入力及びパイプライン演算による高速化)
6
演算増幅器
9
演算増幅器
8
Microsoft PowerPoint - C1(演算と変数).ppt
9
行列の反復解法 1. 点 Jacobi 法 数値解法の重要な概念の一つである反復法を取り上げ 連立一次方程式 Au=b の反復解法を調べる 行列のスペクトル半径と収束行列の定義を与える 行列のスペクトル半径行列 Aの固有値の絶対値の最大値でもって 行列 Aのスペクトル半径 r(a) を与える 収束行
14
ハードウェア記述言語を用いた行列計算専用プロセッサの設計
89