基本情報技術者試験解説

基本情報技術者試験解説

  1. HOME
  2. 基本情報技術者試験解説
  3. 基本情報技術者 解説
  4. 浮動小数点表記とは 基本情報技術者試験

浮動小数点表記とは 基本情報技術者試験

数値の扱い

浮動小数点

この講習では、浮動小数点についてみていきます。

これまでの見てきたように固定小数点では、8ビットや16ビットのように決まった桁数で扱われれるため、表現できる数の個数や、最大値や最小値は決まってしまいます。

では、固定小数点で表現できる数の最大値を超える数や、小数の極めて小さい数などを扱うにはどのようにするのでしょうか?

そこで、浮動小数点が使われます。

浮動小数点とは、指数表記に合わせて数を表示する方式です。

では、指数表記から見ていきましょう。

例えば、テキストにあるように7000000(七百万)は、0.7×10の7乗と変換し、

また、0.00002は、0.2×10の-4乗と変換することが出来ます。

これを指数表記といいます。

 

続きはこちら ↓↓↓

 

基本情報技術者試験 ビデオ講座 Youtube

基本情報技術者試験対策 Cloud Notes コンテンツ利用について

関連記事

テキストのコピーはできません。