浮動小数点表記とは (浮動小数点表記、浮動小数点の例、浮動小数点(IEEE754形式) 練習問題) 基本情報技術者 試験 48
数値の扱い
浮動小数点
この講習では、浮動小数点についてみていきます。
これまでの見てきたように固定小数点では、8ビットや16ビットのように決まった桁数で扱われれるため、表現できる数の個数や、最大値や最小値は決まってしまいます。
では、固定小数点で表現できる数の最大値を超える数や、小数の極めて小さい数などを扱うにはどのようにするのでしょうか?
そこで、浮動小数点が使われます。
浮動小数点とは、指数表記に合わせて数を表示する方式です。
では、指数表記から見ていきましょう。
例えば、テキストにあるように7000000(七百万)は、0.7×10の7乗と変換し、
また、0.00002は、0.2×10の-4乗と変換することが出来ます。
これを指数表記といいます。
続きはこちら ↓↓↓
浮動小数点表記とは
浮動小数点表記
浮動小数点の例
浮動小数点
浮動小数点(IEEE754形式)
練習問題 浮動小数点(IEEE754形式)
基本情報技術者試験 Cloud Notes ビデオ講座 Youtube
株式会社スピカ
お客様のビジネスをサポート
ホームページ制作・ワードプレス制作・ECサイト制作・運営
プログラム構築・サーバー構築