浮動小数点というトピック1つだけで50ページ以上の同人誌が1冊あるくらいなので割と闇だと思う https://techbookfest.org/product/6018416139829248?productVariantID=4928943930998784
昔日本の高校生ハカーがこのへん受験勉強をほったらかしてわれわれのmscorlibをガリガリ最適化していて心配になった記憶があるw
@t_sin そうそう、そして実装もglibcとBSDで違ったりとか、いろいろ実装の選択肢があって、選ぶことがあると無限に迷いますね…! doubleとdecimalでいろいろ違ったりとか、数値型は奥が深いです。
高校生の大学受験はなんとかなりましたw(だいぶ昔の話ですが)
@atsushieno
その本すごいですよね。しかしこういう本があることとか、Gauche Schemeの「Javaの浮動小数点数のバグみてGaucheでためしたらこっちにもあったw」話(※)とか、あとNaN boxingとかを見聞きしていると数値型って結局なんなんだみたいな気持ちになります…w
しかしその高校生は心配になりますねw 勉強しろっていうw
※Turing Complete FMの下記の回より
https://turingcomplete.fm/17