多倍長精度計算

説明

濱口レポート(仮)

目次

  1. 4倍精度データ形式
  2. DD形式に関する注意事項
  3. Rump’s の例題
  4. ファイマンループ積分のmasslessのケース
  5. 条件数の大きい線形計算
    1. 非対称Toeplitz行列
    2. ヒルベルト行列
  6. 3次元ポアソン方程式の反復解法
    1. bcg法
    2. cgs法

多倍長精度フォーラムへのリンク


トップ   新規 一覧 単語検索 最終更新   ヘルプ   最終更新のRSS