ていうか、数学方面の方々が型がガバガバな言語を使うのわけがわからないし、なんか計算システムみたいなやつも、IEEE754のバイナリーな数値形式の方をそのまま使ったりが普通とか、精度とか気にしないの?><;
って謎><

フォロー

いわゆる浮動少数点数型は数値計算用の型で、設計上、値の有効桁数が決まっていて誤差を含む場合に使う。言い方を変えると、有効桁数がが分からないとか誤差を許さない(財務処理とかの)計算ロジックには使ってはいけない。ちなみに、あまり知られてないが10進数ベースの浮動少数点数というのも存在するが、これを実装する処理系にはお目にかかったことがない。

もうひとつ。固定小数点数というのもあって、これは内部処理が整数計算なので、リアルタイム処理など速度が要求される場合に使う。

Java なんかで見かける BigDecimal や Currency 型は固定小数点数の一種だが、有効桁数が可変で、いくらでも大きい値を扱えるという特徴がある(数千ビットの巨大整数を扱う処理は暗号技術で確立されている)。財務処理ではこっちを使う事が多い。ただ遅いんだよねぇ。まぁ今どきの有り余る計算資源なら大したデメリットではないかも知れない

>1を1億回足して1億にならない場合
text.baldanders.info/golang/lo
QT: mstdn.nere9.help/@orange_in_sp
[参照]

orange  
ていうか、数学方面の方々が型がガバガバな言語を使うのわけがわからないし、なんか計算システムみたいなやつも、IEEE754のバイナリーな数値形式の方をそのまま使ったりが普通とか、精度とか気にしないの?><; って謎><
ログインして会話に参加
Fedibird

様々な目的に使える、日本の汎用マストドンサーバーです。安定した利用環境と、多数の独自機能を提供しています。