R^2 (RSquare) 取扱説明書

 

目次

1          概要

2          免責事項

3          著作権

4          インストールとアンインストール

5          使用方法

5.1         データを開く

5.2         計算条件を設定する

5.3         フィッティング計算を実行

5.4         フィッティング結果を保存する

6          フィッティングの例

6.1         正規分布(ガウス分布)バックグラウンドなし

6.2         正規分布(ガウス分布)バックグラウンドあり

6.3         波形分離(ピーク分離)

7          リファレンス

7.1         データファイル

7.2         計算条件ファイル

7.3         計算結果ファイル

7.4         計算条件

7.5         詳細条件

7.6         演算子

7.7         数値の有効桁数

7.8         数値の取りうる範囲

8          トラブルシューティング(こんなときは・・・)

 

1.    概要

本ソフトウェアは、測定されたデータにフィッティングする近似曲線を、最小二乗法を用いて計算するためのもので、以下の特長があります。

l         線形関数だけでなく、指数、対数、三角関数、逆三角関数、さらにこれらを組み合わせた関数へのフィッティングも可能です。

l         したがって、正規分布(ガウス分布)へのフィッティングが可能であり、さらに正規分布の複数ピークが重ねあわされた状態を波形分離(ピーク分離)することも可能です。

l         フィッティングの結果を簡易グラフ上で確認することができるうえ、元のデータとフィッティング関数の相関の強さを表す指数である相関係数R^2を見ることができます。

l         画面最下部に表示されるステータスバーの指示に従って操作を進めてゆくだけで、簡単にフィッティング結果を得ることができます

 

2.    免責事項

本ソフトウェアを用いること、および本ソフトウェアの計算結果を利用することによって発生したいかなる損害についても、本ソフトウェアの作者は責任を負うことは無いものとします。

 

3.    著作権

 本ソフトウェアの作者の許可無く、第三者に使用させる目的で本ソフトウェアを複製すること、あるいは第三者が本ソフトウェアの複製を入手できる状態にすることを禁止します。

 

4.    インストールとアンインストール

 希望のフォルダに解凍するだけでインストールは完了です。本ソフトウェアに同梱されている以外に必要なソフトウェアやファイルはありません。

アンインストールしたいときには、フォルダごと削除してください。レジストリには変更を加えていません。

 

5.    使用方法

 基本的な操作の流れは次のようになります。

1.             (データを開く)フィッティングさせたいデータの入ったファイル(データファイル)を指定し、読み込みます。

2.             (計算条件を設定する)フィッティング条件(フィッティング式、初期値、上限、下限、計算精度など)を設定します。

3.             (フィッティング計算を実行)フィッティング条件にしたがって、フィッティング計算を実行します。

4.             (フィッティング結果を保存する)必要に応じて、指定したファイルにフィッティング結果を保存します。

 

上記の流れを覚えなくても、画面最下部に表示される指示(例えば、「データを開いてください。」など)に従って操作を進めてゆけば、簡単に使用することができます。

 

5.1       データを開く

(i)            「ファイル(F)」−「データを開く(D)」を選択します。

 

(ii)          データファイルを選択し、開く(O)ボタンをクリックします。

 

(iii)          データとしてフィッティングに使用する範囲を指定します。

範囲を指定する方法は二つあります。ひとつ目は、画面左側にある4つのエディットボックスとチェックボックスを使用する方法です。x系列とy系列が、表示された全データの第何系列目(本ソフトウェアでは、縦方向のデータ列を系列と呼んでいます。)であるかを指定するとともに、何行目(本ソフトウェアでは、横方向のデータ行をと呼んでいます。)から何行目までのデータを使用するかを指定します。ふたつ目の方法は、マウスクリックを使用する方法です。x系列の開始行をクリックした後に、つづいてy系列の終了行をクリックすることによって範囲を指定します。どちらの方法で範囲を選択した場合でも、最終的に青枠で囲まれた部分がx系列、赤枠で囲まれた部分がy系列のデータであることを示しているはずです。

ここで指定したデータ範囲は、OKボタンをクリックすれば最終的に決定されます。このとき、指定されたデータ範囲がどこであるかという情報が併せて記憶され、次回データを開いたときにはデフォルトで同じ範囲が選択されている状態となります。もちろん、デフォルトで指定された範囲が気に入らない場合は、上記作業を行うことによって変更することが可能です。

 

(iv)          データが読み込まれ、簡易グラフが表示されます。

ウィンドウ上の「データファイル名」の欄に、選択したデータファイル名が表示されます。また、簡易グラフが表示されます。グラフの縦軸と横軸が希望と逆になっている場合にはxyを逆にして再度データを開きなおしてもよいですが、計算条件の設定によっても逆にすることができます。詳しくは計算条件の設定の部分を参照してください。

データファイルの詳細については、”7.1データファイルの項を参照してください。

 

5.2       計算条件を設定する

(i)            計算条件ウィンドウを開きます。

「計算(C)」−「計算条件(C)」を選択します。

 

 

(ii)          計算条件を設定します。

フィッティング式、文字定数(k0k9)の初期値、下限、上限、計算精度、および角度の単位(degreeradianのいずれか)の設定を行います。

計算条件については、”7.4計算条件”の項を参照してください。

ここでフィッティング式に「x=」を選択すると簡易グラフの横軸がyy系列)、縦軸がxx系列)になり、「y=」を選択すると横軸がx(x系列)、縦軸がyy系列)となります。

以前に計算条件を計算条件ファイル(拡張子ccn)として保存したことがあれば、計算条件を個々に入力する代わりに、計算条件ファイルを開くこともできます。その場合には、「ファイル(F)」−「計算条件を開く(O)」を選択してください。計算条件ファイルの指定を求められますので、選択した後、「開く(O)」ボタンをクリックしてください。

計算条件ファイルの詳細については、”7.2計算条件ファイルの項を参照してください。

「計算条件を開く(O)」をクリックした際、フィッティング計算が完了した状態、あるいはフィッティング計算を途中で中止した状態で、かつフィッティング結果を保存していない場合には、結果を破棄してよいか尋ねられます。必要であれば、フィッティング結果を前もって保存しておかなければなりません。

「再設定」ボタンは、フィッティング計算が完了した状態、あるいはフィッティング計算を途中で中止した状態で、かつフィッティング結果を保存していない場合にのみ使用できます。このボタンをクリックするまでは、計算条件を変更することはできず、閲覧することができるだけです。クリックした後は、自由に計算条件を変更することができますが、それまでのフィッティング結果は破棄されてしまいます。必要であれば、結果を前もって保存しておかなければなりません。

 

(iii)        必要に応じ、詳細条件を設定するため、詳細条件ウィンドウを開きます。

「ファイル(F)」−「詳細条件(D)」を選択します。

フィッティング計算が完了した状態、あるいはフィッティング計算を途中で中止した状態で、かつフィッティング結果を保存していない場合には、結果を破棄してよいか尋ねられます。必要であれば、フィッティング結果を前もって保存しておかなければなりません。

 

(iv)        必要に応じ、詳細条件を設定します。

フィッティング計算をする際に解の概略推測をするかどうか、およびフィッティング計算に使用するデータの間隔を設定します。

詳細条件については、”7.5詳細条件の項を参照してください。

 

(v)          必要に応じ、計算条件を保存します。

「ファイル(F)」−「計算条件を保存する(S)」を選択します。

計算条件ファイル(拡張子ccn)の名前を何にするかを聞かれますので、指定した後、「保存(S)」ボタンをクリックしてください。

計算条件ファイルの詳細については、”7.2計算条件ファイルの項を参照してください。

 

(vi)        計算条件ウィンドウを閉じます。

計算条件ウィンドウ上の「OK」ボタンをクリックすると、入力した内容で計算条件が設定されます。入力内容を破棄してメインウィンドウに戻りたい場合には「Cancel」ボタンをクリックしてください。

データファイル中のデータ(x,y)がグラフ描画されます。このとき、フィッティング式の左辺にxx系列)を選んだ場合には縦軸がxに、yy系列)を選んだ場合には縦軸がyになります。

 

5.3       フィッティング計算を実行

(i)            「計算(C)」−「実行(E)」を選択します。

 

(ii)          計算が終了するのを待ちます。

概略推測フェーズ、最小二乗計算フェーズの順にフィッティング計算が実行されていきます。

計算を途中で中止したい場合は「中止」ボタンをクリックしてください。最小二乗計算フェーズであれば、中止しても途中までのフィッティング結果を知ることができます。

最小二乗計算フェーズでは、フィッティング計算を一時中断してフィッティングの途中経過を知ることもできます。その場合は「一時中断」ボタンをクリックしてください。計算が一時中断し、途中経過が数値とグラフとして表示されます。

 

(iii)        フィッティング計算が完了したら「OK」ボタンをクリックします。

 

(iv)        フィッティング結果が表示されます。

計算結果の欄に文字定数(k0k9)のフィッティング結果が表示されるとともに、相関係数R^2が表示されます。また、グラフ上にフィッティング曲線が表示されます。

フィッティング計算を一時中断した場合には、計算結果の欄に表示される数値の後ろに*(アスタリスク)が付加されます。

 

5.4       フィッティング結果を保存する

(i)            必要に応じ、フィッティング結果を保存するため、保存ウィンドウを開きます。

「ファイル(F)」−「計算結果を保存する(S)」を選択します。

計算結果ファイル(拡張子txt)の名前を何にするかを聞かれますので、指定した後、「保存(S)」ボタンをクリックしてください。

計算結果ファイルの詳細については、”7.3計算結果ファイルの項を参照してください。

 

6.    フィッティングの例

 一般的によく使われると思われる以下の用途に関して、フィッティングの例を示します。ここで挙げたすべての例について、”Sample”フォルダ内にサンプルファイルが付属していますので、必要に応じてご利用ください。

6.1       正規分布(ガウス分布)バックグラウンドなし

サンプルファイル名:(データファイル)正規分布.csv、(計算条件ファイル)正規分布.ccn

この例では、データ(x,y)を正規分布にフィッティングします。

ここをクリックすると、詳細な説明画面に飛びます。

 

6.2       正規分布(ガウス分布)バックグラウンドあり

サンプルファイル名:(データファイル)正規分布バックグラウンドあり.csv、(計算条件ファイル)正規分布バックグラウンドあり.ccn

この例では、バックグラウンドノイズがあるデータ(x,y)を正規分布にフィッティングします。

ここをクリックすると、詳細な説明画面に飛びます。

 

6.3       波形分離(ピーク分離)

サンプルファイル名:(データファイル)波形分離.csv、(計算条件ファイル)二波形分離.ccn

この例では、バックグラウンドノイズがあるデータ(x,y)2つの正規分布にフィッティングする波形分離を行います。

ここをクリックすると、詳細な説明画面に飛びます。

 

7.    リファレンス

7.1       データファイル

データファイルとは、フィッティングさせたいデータの入ったファイルのことです。

具体例としては、次のようなテキストデータの入ったファイルがこれに相当します。

Time (s),Voltage (V),Current (A)

1,4,8

2,5,10

3,6,12

4,7,14

5,8,16

6,9,18

7,10,20

この例では、データはTimeVoltageCurrent3系列存在します。データを開いた際に、フィッティング計算に使用するデータ系列として、この3つの系列のうちからxx系列)、yy系列)の2つを選択しなくてはなりません。また、データの何行目から何行目までを使用するかを指定する必要もあります。例えばデータ第1系列をx系列、データ第3系列をy系列と選択し、2行目から8行目までを使用すると設定した場合を考えると、データ(x,y)=(1,8), (2,10), (3,12), (4,14), (5,16), (6,9), (7,20)の計7個のデータがあることになります。データ数は最大65535個まで可能です。

テキストデータの区切り文字はコンマ、タブ、あるいはセミコロンでなければなりません。また、データファイルの拡張子はcsvあるいはtxtでなければなりません。

 

7.2       計算条件ファイル

計算条件ファイルとは、計算条件が保存されているファイルのことです。

フィッティング式、文字定数k0k9の初期値、下限、上限、計算精度、および角度の単位(degreeradianのいずれか)に加え、フィッティング計算をする際に解の概略推測をするかどうか、さらにフィッティング計算に使用するデータの間隔が保存されています。頻繁に使用する計算条件を計算条件ファイルとして保存しておけば、その計算条件ファイルを開くだけで計算条件の設定を完了させることができますので、わざわざ計算条件を手入力する必要が無く、便利です。

計算条件ファイルの拡張子はccnです。

 

7.3       計算結果ファイル

計算結果ファイルとは、フィッティング結果が保存されているファイルのことです。

計算開始時刻、計算終了時刻、フィッティング計算に使用したデータファイル名、フィッティング結果(文字定数k0k9のフィッティング結果と相関係数R^2)に加え、フィッティング計算に使用した計算条件として、フィッティング式、文字定数k0k9の初期値、下限、上限、計算精度、および角度の単位(degreeradianのいずれか)、フィッティング計算をする際に解の概略推測をするかどうか、さらにフィッティング計算に使用するデータの間隔が保存されています。

計算結果ファイルを保存しておくことによって、過去のフィッティング結果を簡単に閲覧することができます。

計算結果ファイルの拡張子はtxtです。

 

7.4       計算条件

本ソフトウェアでは、フィッティング式、文字定数(k0k9)の初期値、下限、上限、計算精度、および角度の単位(degreeradianのいずれか)のことを計算条件と呼んでいます。以下にそれぞれの説明をします。

7.4.1   フィッティング式

フィッティング式(左辺)とフィッティング式(右辺)で等式を定義します。この等式(フィッティング式)に使用できるのは、数値定数(53.14-27など)、文字定数(k0からk9までの最大10個)および変数(xまたはy)と演算子(+/LogSinなど)です。演算子については”6.6演算子の項を参照してください。

データファイルのデータ(x,y)がフィッティング式と最もよく一致するときの文字定数の値(フィッティング解)を求めようとするのが、本ソフトウェアの動作となります。具体例としては、y = k0xk1が挙げられます。この例では、データ(x,y)を一次関数(直線)でフィッティングし、フィッティング結果としてそのときの直線の傾きk0y切片k1を求めることになります。

7.4.2   フィッティング式(左辺)

xx系列)、yy系列)のうち、いずれかを選択します。これら系列がデータファイル中のどの範囲のデータであるかは、データを読み込んだ際に指定します。データファイルについては、”6.1データファイルの項を参照してください。

7.4.3   フィッティング式(右辺)

数値定数(53.14-27など)、文字定数(k0からk9までの最大10個)および変数(xまたはy)と演算子(+/LogSinなど)を使用して記述します。ここで使用できる変数は、左辺で使用していない変数に限ります。また、文字定数と変数を少なくとも一つずつ含む必要があります。演算子については”6.6演算子の項を参照してください。

7.4.4   初期値

文字定数(k0からk9)の初期値を設定します。本ソフトウェアでのフィッティング計算は多数回の繰り返し計算によってなされますが、初回の計算にはここで指定した初期値が利用されます。初期値には、その文字定数のフィッティング解と推測される値から大きく離れた値を設定しないでください。無駄に長い計算時間を要する原因となります。

7.4.5   下限

文字定数(k0からk9)の下限を設定します。下限と上限との間にフィッティング解があるものとしてフィッティング計算を行います。ただし、これは厳密なものではなく、実際にフィッティング解が下限と上限との間に無くてもフィッティング計算は問題なく行われます。ただし、場合によっては計算に時間を要する原因となることがあります。

7.4.6   上限

文字定数(k0からk9)の上限を設定します。下限と上限との間にフィッティング解があるものとしてフィッティング計算を行います。ただし、これは厳密なものではなく、実際にフィッティング解が下限と上限との間に無くてもフィッティング計算は問題なく行われます。ただし、場合によっては計算に時間を要する原因となることがあります。

7.4.7   計算精度

文字定数(k0からk9)の計算精度を設定します。本ソフトウェアでのフィッティング計算は多数回の繰り返し計算によってなされますが、ここで指定した計算精度は、文字定数をどれだけの値ずつ変化させながら繰り返し計算を行うかを規定します。計算精度が大きすぎると良いフィッティング結果が得られませんし、逆に小さすぎるとフィッティング結果は良いものの、長い計算時間を要することになります。具体例としては、k0のフィッティング結果の±0.1の違いを区別ができれば良いというのであれば、k0の計算精度はその10分の10.01程度が良いでしょう。

7.4.8   角度の単位

Degree(度)、Radian(ラジアン)のうち、いずれかを選択します。ここで選択した単位が、三角関数および逆三角関数を使用する場合の角度の単位となります。三角関数、逆三角関数を使用しない場合には意味を持ちません。

 

7.5       詳細条件

本ソフトウェアでは、フィッティング計算をする際に解(フィッティング結果)の概略推測をするかどうか、およびフィッティング計算に使用するデータの間隔のことを詳細条件と呼んでいます。これらの条件は通常では変更する必要はありませんが、フィッティング結果が異常である場合や計算に時間がかかる場合には適切な値に変更する方が良い場合があります。以下にそれぞれの説明をします。

7.5.1   解の概略推測をしない

本ソフトウェアでは、通常、このチェックボックスにチェックマークは入っておらず、フィッティング計算開始後の一番初めの作業として、与えられたフィッティング式と文字定数(k0からk9)の初期値から、解(フィッティング結果)の概略値を推測します。このチェックボックスにチェックを入れると、通常行っている概略推測を行いません。フィッティング結果が明らかに異常である場合には、概略推測をしないことで適切なフィッティング結果が得られる場合があります。

7.5.2   計算に使用するデータの間隔

データファイルに入っているデータ(x,y)のうち、フィッティング計算に実際に使用するデータの間隔を指定するのがこのボックスです。通常は1が入っており、すべてのデータ(x,y)をフィッティング計算に使用します。ここで例えば3を指定すると、データファイルに入っている1番目のデータ、4番目のデータ、7番目のデータ、10番目のデータ・・・、というように(3n-2)番目のデータ(ただしnは自然数)のみをフィッティング計算に使用します。

フィッティング計算に時間がかかる原因として、データファイルに入っているデータ(x,y)の数が多いことが挙げられます。計算に使用するデータの間隔を大きくすることで、計算に使用するデータの個数を減らし、計算時間を短縮することができます。どうしてもすべてのデータを使用して計算したいという場合には、まずはデータの間隔を大きくすることによって短時間でおおまかなフィッティング結果を得たうえで、次にそのフィッティング結果を文字定数(k0からk9)の初期値に用い、すべてのデータを使用したフィッティング計算を行うという方法が最終的には時間短縮につながるでしょう。

 

7.6       演算子

本ソフトウェアでは、以下に挙げる演算子をフィッティング式中に使用することができます。下記の説明に従った文法で式を記述してください。

7.6.1   加減乗除

加減乗除はそれぞれ半角文字の、+(プラス)、-(マイナス)、*(アスタリスク)、/(スラッシュ)で表します。ゼロで除算してはなりません。

7.6.2   べき乗

半角文字^で表します。べき乗には制限があり、a^bにおいてaが負の値である場合にはbは整数でなければなりません。

7.6.3   平方根

半角文字sqrt( )で表します。括弧内には平方根を取りたい対象を記述してください。平方根には制限があり、sqrt(a)においてaはゼロまたは正の値でなければなりません。

7.6.4   指数関数

半角文字exp( )で表します。括弧内には指数を取りたい対象を記述してください。

7.6.5   対数関数

常用対数、自然対数はそれぞれ半角文字で、log( )ln( )と表します。括弧内には対数を取りたい対象を記述してください。常用対数、自然対数ともに制限があり、log(a)ln(a)においてaは正の値でなければなりません。

7.6.6   三角関数

正弦、余弦、正接はそれぞれ半角文字で、sin( )cos( )tan( )と表します。括弧内には三角関数計算をしたい対象を記述してください。

7.6.7   逆三角関数

逆正弦、逆余弦、逆正接はそれぞれ半角文字で、asin( )acos( )atan( )と表します。括弧内には逆三角関数計算をしたい対象を記述してください。逆三角関数には制限があり、asin(a)においてa-1から1までの値でなければならず、またその返り値はπ/2からπ/2の範囲内です。acos(a)においてa-1から1までの値でなければならず、またその返り値は0からπの範囲内です。atan(a)において、その返り値はπ/2からπ/2の範囲内です。(返り値の範囲はそれぞれ角度の単位がラジアンの場合です。度を選んだ場合にはそれに対応した範囲になります。)

7.6.8   演算子の優先順位

フィッティング式中には括弧を含むことができ、内側の括弧から順に計算されます。括弧がない部分に関しての計算は以下の優先順位で行われます。

優先順位1sqrt, exp, log, ln, sin, cos, tan, asin, acos, atan(以上10種が同順位)

優先順位2:べき乗^

優先順位3:乗算*、除算/(以上2種が同順位)

優先順位4:加算+、減算-(以上2種が同順位)

 

7.7       数値の有効桁数

データファイルに含まれるデータ(x,y)と、フィッティング式に含まれる数値には有効桁数があり、15桁です。それ以上の桁を記述した場合、エラーにはなりませんが、16桁以降は無視されます。

 

7.8       数値の取りうる範囲

本ソフトウェアでは、-1E301以下、あるいは1E+301以上の値は取り扱うことができません。データファイルに含まれるデータ(x,y)、フィッティング式に含まれる数値、計算条件、あるいは計算の途中での演算値が取り扱い範囲を超えた場合、エラーが出ます。

 

8.    トラブルシューティング(こんなときは・・・)

本ソフトウェアは、最小二乗法によってフィッティング結果を求める際、解析的ではなく、数値計算の繰り返しにより求めています。したがって、データや計算条件によっては次のような症状が現れることがあります。その際には、一般的に以下のような対処法が有効です。また、下記各種エラーメッセージが出ることがあります。その際の対処方法についても以下を参照してください。

8.1       フィッティング結果が明らかに異常である。

これにはいくつかの原因が考えられます。以下にそれらを列挙します。

8.1.1   初期値、下限、上限の値が適切に設定されていない場合

文字定数(k0k9)の初期値が、その文字定数のフィッティング解(フィッティング結果)から大きく離れた値に設定されている場合には、本来のフィッティング解から大きくかけ離れた値で計算が収束し、その値を解とみなしてしまうことがあります。これは、特にフィッティング式に周期関数が含まれている場合に顕著に現れる現象です。初期値をフィッティング解と推測される値に近い値に設定し、なおかつ下限、上限をその値を含み、かつできるだけ狭い範囲になるように設定してください。そうすれば、その値周辺の正しいフィッティング結果を求めることができます。

8.1.2   計算精度の値が大きすぎる場合

文字定数(k0k9)の計算精度が大きすぎる場合、正しいフィッティング結果を得ることができません。計算精度は、文字定数をどれだけの値ずつ変化させながら繰り返し計算を行うかを規定しているからです。例えば、フィッティング式y=x^k0k0の真のフィッティング結果が0.333である場合を考えてください。k0の計算精度を1としてしまうと、k0の値の飛びは1ずつであるので、うまく0.333というフィッティング結果にたどり着くことができません。計算精度を適切な値に設定しなおしてください。ただし、逆に小さすぎる計算精度は、フィッティング計算を無駄に時間がかかるものとしてしまうので注意が必要です。

8.1.3   フィッティング式の与え方が適切で無い場合

例えばy=k0*(x+k1)*(x+k2)と設定した場合、本ソフトウェアから見るとk1k2も全く同等の意味をもつ文字定数となってしまいます。このような場合、フィッティング計算がうまくいかない場合があります。フィッティング式を書き換え、y=k0*x^2+k1*x+k2のようなk0k1k2が独立の意味をもつ形にすればうまくいきます。

8.1.4   解の概略推測が有効に機能していない場合

本ソフトウェアには、ある特定の条件下でのフィッティング計算速度を飛躍的に速める効果がある、解の概略推測機能が備わっていますが、場合によってはこの機能が本来のフィッティング結果から大きくかけ離れた値で計算を収束させてしまう原因となることがまれにあります。その場合は、詳細条件ウィンドウにて解の概略推測をしない設定にしてください。

 

8.2       フィッティング計算に非常に時間を要する。

これにはいくつかの原因が考えられます。以下にそれらを列挙します。

8.2.1   フィッティング式が複雑で、かつデータ(x,y)の個数が多い場合

複雑な計算を多数回行わなければならないため、フィッティング結果を得るまでに時間を要します。このようなときには、計算に使用するデータ(x,y)の個数を減らすと時間を短縮することができます。本ソフトウェアには詳細条件には、フィッティング計算に使用するデータ(x,y)という項目があり、これで計算に使用するデータ(x,y)を間引くことができます。詳しくは、”6.5.2計算に使用するデータの間隔の項を参照してください。

8.2.2   計算精度が必要以上に小さい場合

文字定数(k0k9)の計算精度が必要以上に小さくすることは、無駄に計算時間を要する原因となります。計算精度を適切な値に設定しなおしてください。フィッティング計算の一時中断を行えば、その段階でどこまでフィッティング計算が進んだかをグラフで視覚的に確認することができます。十分にフィッティングがなされているのであれば、その時点でフィッティング計算を中止するのも一つの方法です。たとえ中止しても、メインウィンドウの計算結果の欄にはそこまでのフィッティング計算結果が表示されます。

8.2.3   初期値の値が適切な値に設定されていない場合

文字定数(k0k9)の初期値が、その文字定数のフィッティング解(フィッティング結果)から大きく離れた値に設定されている場合には、フィッティング結果を得るまでに時間を要します。初期値をフィッティング解と推測される値に近い値に設定してください。そうすれば、本ソフトウェアが行わなければならない繰り返し計算の回数を減らすことができ、計算時間を短縮することができます。

8.2.4   下限、上限の値が適切に設定されていない場合

文字定数(k0k9)の下限あるいは上限の値が適切でなく、その文字定数のフィッティング解(フィッティング結果)から大きく離れた値に設定されている場合、計算時間が長くなります。上限、下限の値を、フィッティング解と推測される値を含み、かつできるだけ狭い範囲となるような値に設定しなおしてください。上限と下限で限定される範囲を狭くすることにより、本ソフトウェアが行わなければならない繰り返し計算の回数を減らすことができ、計算時間を短縮することができます。

 

8.3       エラーメッセージ「値が大きすぎ、あるいは小さすぎるデータが含まれています。データ読み込みを中断します。」が出る。

このエラーは、データファイル中のデータ(x,y)の中に-1E301以下あるいは1E+301以上の値が含まれている場合に発生します。本ソフトウェアではこれらの値は取り扱えません。

 

8.4       k0~k9の初期値 / 下限 / 上限 / 計算精度が入力されていません。

このエラーは、計算条件ウィンドウでの計算条件に設定されていない項目がある場合に発生します。計算条件が設定されているかどうか確認してください。

 

8.5       次のいずれかのエラーメッセージが出る。

「ゼロで除算しました。計算できません。」

「負の値を小数で累乗しました。計算できません。」

Sqrtの対象に負の値が指定されました。計算できません。」

Logの対象に0以下の値が指定されました。計算できません。」

Lnの対象に0以下の値が指定されました。計算できません。」

Asinの対象に-1より小さい、あるいは1より大きい値が指定されました。計算できません。」

Acosの対象に-1より小さい、あるいは1より大きい値が指定されました。計算できません。」

これらはすべて、関数の値取り扱い制限範囲外の値を関数に入れてしまったために発生するエラーです。フィッティング式が正しいかどうか確認してください。データファイルに含まれる値にこれらのエラーを発生させるデータ(x,y)1つでも含まれていないか確認してください。関数の値取り扱い制限の詳細は”6.6演算子の項を参照してください。

 

8.6       エラーメッセージ「計算の途中で、値が取り扱い可能範囲を超えました。計算できません。」が出る。

フィッティング計算中に、計算値が-1E301以下あるいは1E+301以上の値になってしまったときに出るエラーです。本ソフトウェアではこれらの値は取り扱えません。

 

8.7       エラーメッセージ「初期値が不適切なため、概略推測ができません。妥当なフィッティング結果が得られない、あるいは計算に時間がかかる場合には、違う値を設定して再度計算実行してください。」が出る。

詳細条件ウィンドウにて、「解の概略推測をしない」ボックスにチェックを入れていない場合、本ソフトウェアはフィッティング計算の最初の段階でフィッティング解(フィッティング結果)の概略推測を行います。このエラーは概略推測がうまくいかなかったときに発生します。文字定数(k0k9)の初期値を設定しなおしてください。それでもうまくいかない場合には、解の概略推測しないよう設定することをお勧めします。概略推測に失敗している以上、概略推測フェーズは時間の無駄となるからです。解の概略推測はある特定の条件下でのフィッティング計算速度を飛躍的に速める効果がありますが、解の概略推測をしなくても、フィッティング計算をすることは可能です。

 

8.8       エラーメッセージ「文字定数の値が設定された上限/下限を超えました。妥当なフィッティング結果が得られない場合は、初期値や上限/下限を再設定後に再度実行し直して下さい。」が出る。

フィッティング計算中に文字定数(k0k9)の値が計算条件ウィンドウで設定した上限あるいは下限の値を超えた場合に出るエラーです。このエラーが出ても、正しいフィッティング結果が得られる場合もあります。しかし多くの場合は、初期値や上限、下限が、その文字定数のフィッティング解(フィッティング結果)と推測される値から大きく離れた値に設定されているため、正しいフィッティング結果が得られなかったり、無駄に計算時間が長くなったりします。初期値、上限、下限の値を適切な値に設定しなおしてください。

 

8.9       エラーメッセージ「値が大きすぎ、あるいは小さすぎます。」が出る。

計算条件ウィンドウで、文字定数(k0k9)の初期値、下限、上限、計算精度に-1E301以下あるいは1E+301以上の値を入力したときに出るエラーです。本ソフトウェアでは上述の範囲にある値は設定できません。