bcg法は倍精度演算
ハードウェア記述言語を用いた行列演算専用回路設計
73
FPGA による画像処理演算器の設計
6
or演算子を含んだ関数ノード群を持つGPによる拡張決定木の生成
2
Agenda GRAPE-MPの紹介と性能評価 GRAPE-MPの概要 OpenCLによる四倍精度演算 (preliminary) 4倍精度演算用SIM 加速ボード 6 processor elem with 128 bit logic Peak: 1.2Gflops
27
FPGA によるITU-656 ビデオカメラのインターフェイスおよび画像演算器の設計
6
3C4-3 組合せ集合のmeet演算による共通因子抽出
4
超高速行列演算チップの作成
81
倍精度マルチコアプロセッサ及び SSD ストレージによる 計算機合成ホログラムの高速化の研究 2015 年 1 月 杉山充
55
17 年度 東洋大学審査学位論文 演算子インピーダンスを用いた同期機諸定数 および等価回路定数の算出法に関する研究 理工学研究科電気電子情報専攻博士後期課程 46C141 田中晃
107
第 1 回 C 言語講座 1. コンピュータって? だいたいは 演算装置 制御装置 記憶装置 入出力装置から構成されている 演算装置 CPU の一部で実際に計算を行う装置 制御装置 CPU の一部で演算装置や入出力装置 記憶装置の読み書きなどを制御する装置 記憶装置プログラムや情報 データを一時的
6
ストリーミング SIMD 拡張命令2 (SSE2) を使用した、倍精度浮動小数点ベクトルの最大/最小要素とそのインデックスの検出
22
を用いて実装している.. 対象となる演算. による実装と高速化 本研究では反復法ライブラリをベースとしたため, 表 に示す演算のみを実装した. ただしこの実装は一般的な用 途にも適用可能なものである. 演算の名称 Name of calculation 表 演算の一覧 Table list of c
6
インテル® コンパイラーの浮動小数点演算における結果の一貫性
14
HPCS5 5/5/9 5年ハイパフォーマンスコンピューティングと計算科学シンポジウム High Performance Comuting Symosium 5 などの行列とベクトルの演算 Level- 演算 は 演算回数 に対して必要となるデータ量が多く マルチコア計算機に おいて高い実行性能を実
9
演算増幅器
9
る連続なアクセスができるなどの利点がある. 倍々精度浮動小数は, 符号部 1 bit, 指数部 11 bit, 仮数部 14 (52 2) bit からなる. これは符号部 1bit, 指数部 15 bit, 仮数部 112 bit からなる IEEE754 準拠の 4 倍精度と比 べて指数部が 4
7
4 倍精度基本線形代数ルーチン群 QPBLAS の紹介 [index] 1. Introduction 2. Double-double algorithm 3. QPBLAS 4. QPBLAS-GPU 5. Summary 佐々成正 1, 山田進 1, 町田昌彦 1, 今村俊幸 2, 奥田洋司
18
コンピュータの仕組みを知る上での基礎知識 以下の内容が理解できれば 貴方もコンピュータ通の仲間入り! n 進法演算とは (2 進 8 進 10 進 16 進 ) 私たちが何気なく使用している10 進数は コンピュータの世界にとっては極めて扱いにくいものなのです ご存知の通り このn 進数とは上の桁に
8
線形代数演算ライブラリBLASとLAPACKの 基礎と実践1
93
線形代数演算ライブラリBLASとLAPACKの 基礎と実践1
77