固定小数点演算による
インテル® コンパイラーの浮動小数点演算における結果の一貫性
... 注意事項の改訂 #20110804 Intel、インテル、Intel ロゴ、Xeon、Intel Xeon Phi、Cilk は、アメリカ合衆国および / またはその他の国における Intel Corporation の 商標です。 性能に関するテストや評価は、特定のコンピューター・システム、コンポーネント、またはそれらを組み合わせて行ったものであり、 ...
14
or演算子を含んだ関数ノード群を持つGPによる拡張決定木の生成
... から データを用いて、決定 木を構築し、その評価を行った。 その結果、決定木のサイズの改善を行うことができた。ま た、 と を用いたものでは、精度の改善も認められ た。拡張したルール表現は、遺伝的プログラミングの関数ノー ドの定義を置き換えることにより実装している。そのため遺伝 的プログラミングによる学習の枠組みの変更は最小限になって いる。このことより、 や を用いたルール表現も遺伝 ...
2
FPGA によるITU-656 ビデオカメラのインターフェイスおよび画像演算器の設計
... ③ 計算を終えると再び SDRAM コントローラに演 算結果を書き込む。なお画像演算器にカウンタを 設けて自動的にアドレスを生成するように設計 した。アドレス計算の方法を以下に示す。 本来ならば２値化をすることによりデータサイズが小 さくなるが、1 バイトが画像 1 ピクセルの関係を保つ事に よりパソコン上での処理がしやくすなるため、0x00 と 0xFF の 2 つの値へと変換した。本研究では対象物体と背 ...
6
HPCS5 5/5/9 5年ハイパフォーマンスコンピューティングと計算科学シンポジウム High Performance Comuting Symosium 5 などの行列とベクトルの演算 Level- 演算 は 演算回数 に対して必要となるデータ量が多く マルチコア計算機に おいて高い実行性能を実
... に直接 (1) の一般化固有値，固有ベクトルを求めること を考える．このような方法は， k = 1 （すなわち三重対角 行列）の場合には， Elsner らによって解法が提案されてお り [2] ，そのアルゴリズムは Level-3 演算が支配的となる． 本研究では， Elsner らの解法を k ≥ 2 の場合に拡張するこ ...
9
浮動小数点数 floating point
... IEEE754 における数の種類：無限大 (infinity) 浮動小数点数における無限大とは 計算結果の絶対値が正規化数で表現できないほど大きかった（ 2 1024 以上）、あるいは、 1/0 や log 0 を計算しようとしたことを表す ...
37
3C4-3 組合せ集合のmeet演算による共通因子抽出
... meet 演算を用いて得られる集合は，従来の飽和頻出 パターン集合よりも小さい集合であり，比較的大きなデータに 対しても現実的な時間内に実行することができる． また，提案手法では，入力を ZDDV で表現し ZDDV の演 算を通して出力も ZDDV の形で得ることができる．これは， 入力の組合せ多重集合を ZDDV で圧縮して表現することがで きれば，効率よく meet 演算を計算することができるという点 ...
4
演算増幅器
... } 関数 rand()は 0 から最大値 RAND_MAX（#define された定数）までの範囲の値について、関数を実行す るたびに違う値を生成する。この得られた値を%を用いて場合分けすることで、確率をプログラムに導 入する。この関数は擬似的な乱数を生成するが、上記のような使い方をする上では大きな問題にならな い。問題はこのプログラムを数回実行すると確認できるが、[r] ...
9
を用いて実装している.. 対象となる演算. による実装と高速化 本研究では反復法ライブラリをベースとしたため, 表 に示す演算のみを実装した. ただしこの実装は一般的な用 途にも適用可能なものである. 演算の名称 Name of calculation 表 演算の一覧 Table list of c
... 倍精度演算を行う場合，SSE2 と AVX の主な違いは一命 令で倍精度浮動小数点数を同時に 2 つ処理できるか 4 つ処 理できるかである．少なくとも C 言語上では，アラインメ ントを意識する必要はあるものの，それ以上の違いはほと んど無い．ただし，SSE2 は 128*1bit レジスタであるのに 対し，128*2bit レジスタとして実装されているため，水平 演算に関して 128bit ...
6
Agenda GRAPE-MPの紹介と性能評価 GRAPE-MPの概要 OpenCLによる四倍精度演算 (preliminary) 4倍精度演算用SIM 加速ボード 6 processor elem with 128 bit logic Peak: 1.2Gflops
... のものと同じ値である．ベクトル長が短いと，今回の実装では， 演算機がアクセス可能なメモリ領域が限定されているため，一部の演算機しか利用すること ができず，性能が低い．ベクトル長が 64K 要素より長くなると，利用可能な演算機の数が 増えていき，それに応じて性能が向上する．今回の実装では，メモリからのデータの読み 出しに少なくとも 4 クロックかかっているため，80 MHz ...
27
超高速行列演算チップの作成
... ハードウエアによる解決方法があり、ソフトウエアではプログラムのアルゴリズム や並列計算機を使用した並列化プログラムの作成があるが、本研究ではハードウエ アによる方法を用いた。そのため、固有値固有ベクトルを求める為だけの専用プロ セッサーを仮想し ( これを専用チップと定義する ) そのプロセッサー上でどのように ...
81
2.2.8 変数 ( ローカル変数 ) の宣言と代入 文字列 シングルクオートとダブルクオート 文字列の比較 数値 演算子による値の比較 演算子の優先順位
... 繰り返し処理とEnumerableモジュール ............................................................................ 137 ハッシュをもっと上手に使いこなすために ......................................................................... 163 メソッド定義時の引数の順番 ...
11
SH-2, SH-2A 固定小数点ライブラリ (Ver. 1.02) 活用ガイド＜コンパイラ活用ガイド＞
... 浮動小数点と固定小数点との間の変換は必要な場合だけ実行してください。 固定小数点による高速化の 効果が得られません。ただし、プログラム内で固定小数点定数を指定するために変換関数を使用する場 合は、マクロにより定数式に変換されるため、オーバヘッドはありません。 ...
23
インテル(R) アーキテクチャ (IA) 浮動小数点ユニット (FPU)、ストリーミング SIMD 拡張命令 (SSE)、ストリーミング SIMD 拡張命令2 (SSE2) を使用した浮動小数点算術演算
... 15 14 13 12 11 10 9 8 7 6 5 4 3 2 1 0 FZ RC RC PM UM OM ZM DM IM Res PE UE OE ZE DE IE 図 5: コントロール / ステータス・レジスタ MXCSR の下位 16 ビット ビット 15∼7 は、ゼロ・フラッシュ・モード、丸めモード、および浮動小数点例外のマスク/ アンマスクをセットする。ビット 5∼0 ...
60
ＦＰＧＡによる画像処理演算の研究（カメラ画像の入力及びパイプライン演算による高速化）
... コンピュータ画像処理の研究が盛んになった背景には コンピュータの高性能化が挙げられる。主要な CPU メー カである Intel 社や AMD 社による高クロック化やマルチ コアによる並列化を行い、性能を向上している。開発環 境にコンピュータ一つあれば十分であることから、C、 C++などの高級言語で組まれたライブラリが多数出現し た。しかし、実用的な利用、すなわち組み込み用途など ...
6
熊本大学学術リポジトリ Kumamoto University Repositor Title GPGPU による高速演算について Author(s) 榎本, 昌一 Citation Issue date Type URL Presentation
... 5. 終わりに GPGPU を実現する開発環境 CUDA を使ってみた．条件判定等の制御系には向かないが，大量の計算を並列で行うこと が出来るため，高速演算を実現できることがわかった．ただし，プログラミングには線形代数的なプロセッサ群の管理や メモリアクセスについてのかなりのスキルが必要である． ...
5
線形代数演算ライブラリBLASとLAPACKの 基礎と実践1
... Google のサーチエンジン、 Page Rank は、ウェブページ同士の相関を 「行列の固有値や特異値でランク付け」する。 Ax = λx, M = UΣV ∗ 3D ゲームでは、自分の視点が変わる、物が動くなど、移動回転拡大縮小 すると、大量の線形代数演算が同時に行われる。 ...
93
目次 1. ファイルの保存 ウインドウ枠の固定と解除 枠の固定 固定の解除 画面のズーム 数式に挑戦! まずは足し算 他のセルを 参照 四則演算...
... そこで、特定の行や列を固定して、常に表示させるようにします。これを「ウイン ドウ枠の固定」といいます。 ウインドウ枠の固定の設定をするには、固定させたい行の次の行、および次の列が 交わるセルをクリックしておき、リボンの［表示］タブの［ウインドウ枠の固定］ボ タンをクリックし、さらに、 ［ウインドウ枠の固定］をクリックします。 ...
17
FPGA による画像処理演算器の設計
... ２・１ SDRAM コントローラ ２・２・１ RAM RAM(Random Access Memory)は SRAM(Static RAM)と DRAM(Dynamic RAM)に分けられデータの記憶方法に違 いがある。SRAM はトランジスタによる順序回路(FF)で 構成され論理値レベルでデータが記憶される。一方、 DRAM はトランジスタ一個キャパシタ一個で構成され、 ...
6
Excelを用いた行列演算
... モデルの形態と作成の考え方 「単一方程式モデル」と「連立方程式モデル」の作られ方を具体例で見てみる。 ① 一世帯当たりのリンゴ消費量 Qの決定に興味がある場合（単一方程式モデル） リンゴの需要（消費）関数 ′ ただし、 はリンゴの数量（消費量）、 はリンゴの価格、 は可処分所得、 ′はリンゴ関連財の価格 ② リンゴ市場におけるリンゴ価格Pの決定に興味が[r] ...
30
線形代数演算ライブラリBLASとLAPACKの 基礎と実践1
... BLAS, LAPACK の現状 : 高速な BLAS, LAPACK について ATLAS:R. Clint Whaley 氏による , オートチューニング機構で高速化した BLAS 。それまでの 2001 年より多くのコンピュータの BLAS 環境を劇的 に改善した , パイオニア的存在。ハンドチューニングした BLAS よりは数 % から数 10% 低速程度 ...
77