● 数値の表現範囲について

実数表示の場合 15 桁程度の精度で表示されます。その範囲を超えた場合、数値は指数表示で表現されます。

(目安)

最大 : ±1.7976931348623158 × 10308
最小 : ±2.2250738585072014 × 10-308


実数の変換

2進数 、8進数 、16進数で表示する場合、実数を 32bit 符号無し整数に変換します(結果表示変更の方法は「補助機能」→「基数を変更する」参照の事)。
2進数0 〜 11111111111111111111111111111111
8進数0 〜 37777777777
16進数0 〜 ffffffff

数値に小数点以下の値を含む場合は切り捨てられます。
また、計算結果が 4294967295 を超える場合、その値の下位 32bit が結果として表示されます。

計算結果
(括弧は 16進数)
SCalc で 16進数表示させた場合
4294967295 (ffffffffh)ffffffffh
4294967296 (100000000h)0h
4294967297 (100000001h)1h
4294967298 (100000002h)2h
4294967299 (100000003h)3h

これは計算でも同じで、数値式内に論理演算やビットシフトを含むと、対象の数値の下位 32bit が計算に使用されます。