浮動小数点演算の速度
インテル® コンパイラーの浮動小数点演算における結果の一貫性
... Corporation の 商標です。 性能に関するテストや評価は、特定のコンピューター・システム、コンポーネント、またはそれらを組み合わせて行ったものであり、 このテストによるインテル製品の性能の概算の値を表しているものです。システム・ハードウェア、ソフトウェアの設計、構成などの ...
14
4. 情報の内部表現の基礎 (3) 実数の内部表現 Floating-point format 様々な物理量は実数値で表現される 実数を表現できるようになると, コンピュータの応用範囲は大きく広がる コンピュータ内部で実数を表現する標準的な方法が 浮動小数点形式 だ 浮動小数点形式を使うことで, 非
... （ 小数点以下 小数点以下 ） 小数点以下 小数点以下 ） ） ） → → → → ２ ２ ２ ２ 進 進 の 進 進 の の の 変換 変換 変換 変換 （「 （「 （「 （「 乗算 乗算 シフト 乗算 乗算 シフト シフト シフト 法 法 法 法 」） 」） 」） 」） ...
8
浮動小数係数の多変数多項式のHensel構成の誤差解析(数式処理における理論と応用の研究)
... れる結果の信頼性に注意しなければならない。本稿では、我々が提唱している近似代数を 応用する際に必要不可欠な誤差解析を、多くの多項式演算において有用な Hensel 構成に 対して行う。特に、 たった 1 回の演算で著しい誤差をもたらすこともある桁落ちについて 考察する。 Hensel 構成は、与えられた多項式を従変数に関してある点の周りでのべキ級数 ...
8
ＦＰＧＡによる画像処理演算の研究（カメラ画像の入力及びパイプライン演算による高速化）
... コンピュータ画像処理の研究が盛んになった背景には コンピュータの高性能化が挙げられる。主要な CPU メー カである Intel 社や AMD 社による高クロック化やマルチ コアによる並列化を行い、性能を向上している。開発環 境にコンピュータ一つあれば十分であることから、C、 C++などの高級言語で組まれたライブラリが多数出現し た。しかし、実用的な利用、すなわち組み込み用途など ...
6
浮動小数Grobner基底の実際的な計算法 (Computer Algebra : Design of Algorithms, Implementations and Applications)
... 多項式生成と主項簡約に おいては異常度の小さい多項式から順に選択するものである。 これは、 数値行列に対するピボッティング に相当する操作であるが、 項キャンセルの低減は不十分なのが現状である。 とは言うものの、 ヨーロッパ の指導的研究者をして “Approximate Gr\"obner bases–an impossible concept?” [20] ...
7
ストリーミング SIMD 拡張命令2 (SSE2) を使用した、倍精度浮動小数点ベクトルの最大/最小要素とそのインデックスの検出
... インデックス・ループの前で、ベクトルの最後に最大値がないかチェックする。ベクトル の最初でも同じことを行う。ここでインデックスが特定できれば、 indexdone というラ ベルにジャンプする。この方法には次のような利点がある。 • ベクトルの最初と最後のアライメントされていない要素をチェックしておけば、ルー ...
22
浮動小数演算に基づく安定化理論計算システムの作成(数式処理における理論と応用の研究)
... 定等で困難が起こり、 しきい値を設定しての処理を行わなければならない。しかし、 しきい 値の設定方法には問題によって困難がある。適切な大きさのしきい値を設定しなければ安 心して結果を得ることができない。それらに対して、数式処理と数値計算との結合によっ て安定化理論を実現すると、高速にかつ高信頼度の結果を得ることができることがわかっ ...
6
新機能のご紹介 ツールパス演算演算スピードの大幅改善と 送り速度の最適化により最適化により 生産生産効率効率を引き上げる XR7 は 全世界のユーザーの皆様から寄せられるリクエストに重点を置いて開発されており 広範囲にわたり大幅に強化された OneCNC シリーズの最新製品です 特に製造現場での生産
... 工具送り速度の最適化 速度の最適化 速度の最適化 速度の最適化 ※ ※ ※ ※ 全ミル製品（複合旋盤 全ミル製品（複合旋盤 全ミル製品（複合旋盤 全ミル製品（複合旋盤 含む） 含む） 含む） 含む） ...
18
char int float double の変数型はそれぞれ 文字あるいは小さな整数 整数 実数 より精度の高い ( 数値のより大きい より小さい ) 実数 を扱う時に用いる 備考 : 基本型の説明に示した 浮動小数点 とは数値を指数表現で表す方法である 例えば は指数表現で 3 書く
... 言語ではキーボードが割り当てられている)から入力された値を格納する。そ のため使用する変数を先に宣言しておかなければならない。"%○ … %○"の中には入力する変数のデータ型 に合った変換仕様を指定する必要がある。変数に値を読み込むときには変数名の先頭に＆を付けて書く。 scanf 文を使う上でよくやってしまう間違いを述べる。 ...
7
浮動小数 Grobner 基底の計算法 (Computer Algebra : Design of Algorithms, Implementations and Applications)
... 本例では、 係数の記号化をいつ行うか、 二つの選択肢がある : 第一の選択肢は、 微小係数が頭項に現れた 時点で記号化するものであり、 第二の選択肢は、 頭項以外の微小係数も記号化するものである . 前者では、 まず $hc(P_{1})$ が記号化され、 次に ...
7
浮動小数ジョルダン標準形の安定化(数式処理における理論と応用の研究)
... 代数的アルゴリズムであるか、 またはそれに還元することができる。後述するように、 ジョ ルダン標準形を計算するアルゴリズムも、不連続点 $0$ の述語をもつので、 この範疇に入る。 不連続点 $0$ の代数的アルゴリズム $A$ を安定化するポイントは、 アルゴリズムの構造を変 えずに、係数領域を区間係数の領域に変え、 区間に対しては Zero Rewriting を行なう、 と ...
11
浮動小数グレブナー基底の悪条件性 (Computer Algebra : Design of Algorithms, Implementations and Applications)
... 計算法に依存しない形で定義される。 浮動小数グレブナー基底の条件数も同じように定義されるべきである。 自己簡約には幾つかの型がある が、 今まで見つけた型ではいずれも自己簡約は正確な項キャンセルをひき起こし、 正確な項キャンセルが 起こす精度低下は高精度化法で回避できるので、 条件数には自己簡約による桁落ちを含めるべきではない。 ...
9
Wu's methodの浮動小数化 (数式処理における理論と応用の研究)
... 計算速度 の面で比較した。 例 1 $1_{\text{、}}$ 2 の連立代数方程式は、 いずれも $0$ 次元の解を持たず、 有限次 元の解を持つものである。 なお、 計算は DEC ALPHA ...
9
浮動小数係数多項式 Half-GCD 法の実装と応用 (数式処理研究の新たな発展)
... GCD の候補が $O(m^{2})$ の計算量で計算できる．チェックのために行う除算の 計算量は高々 $O(m)$ である．常に次数が落ちるので，最悪 GCD が一回の両端消去によって得られる場合， すなわち次数が 1 程度しか落ちない場合が考えられるが，それは GCD が得られた時にのみ起こり得る．そ のため， GCD ...
8
浮動小数点数 floating point
... 同じ規格に従っていれば、言語やマシンが違っても同じ計算結果になる 例：パソコン vs スマートフォン データ交換の形式（どういう数にどういうビット列を対応させるか）を定める 2 進小数 (binary) と 10 進小数 (decimal) が定義されているが、この小話では以後 2 進小 ...
37
ISim ハードウェア協調シミュレーション チュートリアル : 浮動小数点高速フーリエ変換(FFT) のシミュレーションの高速化
... ISim ハードウェア協調シミュレーションでは、多量の計算を FPGA で実行させることにより、ソ フトウェアの負担を軽減して DSP ファンクションのシミュレーションを実行できます。合成可能 な HDL コード、CORE Generator™ ツールで生成された IP コアなどの合成済みまたは保護さ れたネットリストを、協調シミュレーション用に FPGA ...
23
ISim ハードウェア協調シミュレーション チュートリアル : 浮動小数点高速フーリエ変換のシミュレーション
... [Enable Incremental Implementation] オプションをオンにすると、協調シミュレーションを実行 するデザイン部分が変更されていない場合に、前回生成されたビットストリームを再利用する ことにより、コンパイル時間を短縮できます。この場合、デザインの一部のみが再コンパイルさ れるので、コンパイル時間が通常の ISim コンパイル時間より短くなる場合もあります。このよう ...
19
インテル(R) アーキテクチャ (IA) 浮動小数点ユニット (FPU)、ストリーミング SIMD 拡張命令 (SSE)、ストリーミング SIMD 拡張命令2 (SSE2) を使用した浮動小数点算術演算
... SSE2 のソフトウェア・ハンドラが実行する一般的な動作は、FPU 命令や SSE のソフトウェ ア・ハンドラの動作とよく似ている。ただし、SSE2 では、以前にステータス・フラグがセッ トされた浮動小数点例外をアンマスクしてもソフトウェア・ハンドラは起動しないため、 MXCSR ステータス・フラグをクリアする必要はない。パックド・オペランドを操作する SSE2 ...
60
浮動小数点係数のPade近似計算について (数式処理とその周辺分野の研究)
... り極が発生しその極を打ち消すために分子にも近接根が生じることが知られている．その極と零 のペアは Froissart doublets と呼ばれる． Froissart doublets を発生させずに Pad\’e 近似を得る方 法として，線形方程式を解く方法を改良し，特異値分解を用いて特異ベクトルを計算することで Pad\’e 近似を導出する方法 [2] が Ibryaeva らにより提案されている．本研究では ...
6
浮動小数点計算を用いた代数的数の符号判定(数式処理における理論と応用の研究)
... この誤差推定法では, 誤差が精度 $\mu$ の関数として求められる . したがって , 一度誤差を評 価しておけば , 誤差評価式に精度の値を代入することで誤差を容易に求めることができる. 方 , 区間演算では精度を変えるたびに誤差評価を行わなければならない . また , この誤差 推定法は , 符号判定の可能な精度の推定に応用することができる (4.3. 節参照 ...
8