多倍長精度計算

説明

多倍長計算手法 No.2

多倍長計算手法 No.1

目次

  1. 4倍精度データ形式
  2. DD形式に関する注意事項
  3. Rump’s の例題
  4. ファイマンループ積分のmasslessのケース
  5. 条件数の大きい線形計算
    1. 非対称Toeplitz行列
    2. ヒルベルト行列
  6. 3次元ポアソン方程式の反復解法
    1. bcg法
    2. cgs法

各種計算機アプリケーション性能比較

目次

  1. 多倍長演算アプリケーション
  2. 倍精度演算アプリケーション

多倍長精度フォーラムへのリンク


トップ   新規 一覧 単語検索 最終更新   ヘルプ   最終更新のRSS