多倍長精度計算

説明

多倍長計算手法 No.2

多倍長計算手法 No.1

目次

  1. 4倍精度データ形式
  2. DD形式に関する注意事項
  3. Rump’s の例題
  4. ファイマンループ積分のmasslessのケース
  5. 条件数の大きい線形計算
    1. 非対称Toeplitz行列
    2. ヒルベルト行列
  6. 3次元ポアソン方程式の反復解法
    1. bcg法
    2. cgs法

多倍長精度フォーラムへのリンク


トップ   新規 一覧 単語検索 最終更新   ヘルプ   最終更新のRSS