E-BOMBERのアホアホブログ

アホなことであろうが何であろうが、わしは書きたいことを書く。ガンバレ○神タ○ガース!

わしの電子工学用語集(88)

電算機ちゅうのは冷徹に計算すんのが仕事なんで、その用語の説明も無機的ちゅうか平板になりがちや。せやさかいなおのこと、分かりやすい文章で説明する必要があるて言える。

 

アンダーフロー

 

underflow

 

電子計算機による数値計算の途上において、表示可能な桁を下回る数値が現れること。

 

↔オーバーフロー

 

〔詳説〕電算機の数値計算には浮動小数点方式により演算が実行される。浮動小数点計算では、仮数 (mantissa) 部 m (β進 i 桁で、小数第一位が0でない小数)と指数部 (exponent)  e とによって数値を表現し (1/β< m < 1 , emin < e < emax )、実数 x の浮動小数点表示は fl(x) = ±mβ^e である。演算の結果、指数部 e が emin を下回ると、その数値はこの電算機では表現不可能となり、その値を0と表示して演算を打ち切るか、またはその値を0として演算を実行する。但し、0での除算は不能なので、その場合はエラー表示を行って演算を打ち切るのが一般的である。

 

浮動小数点方式

 

(本文ここまで)

 

文房具屋とかで売ってる安モンけの電卓を例に取ると、計算値が正または負に発散した場合”E”を表示すんのがオーバーフローで、計算値が小さなって表示でけんようなったら”0”を表示すんのがアンダーフローやな。