浮動小数点というトピック1つだけで50ページ以上の同人誌が1冊あるくらいなので割と闇だと思う https://techbookfest.org/product/6018416139829248?productVariantID=4928943930998784
昔日本の高校生ハカーがこのへん受験勉強をほったらかしてわれわれのmscorlibをガリガリ最適化していて心配になった記憶があるw
@atsushieno
その本すごいですよね。しかしこういう本があることとか、Gauche Schemeの「Javaの浮動小数点数のバグみてGaucheでためしたらこっちにもあったw」話(※)とか、あとNaN boxingとかを見聞きしていると数値型って結局なんなんだみたいな気持ちになります…w
しかしその高校生は心配になりますねw 勉強しろっていうw
※Turing Complete FMの下記の回より
https://turingcomplete.fm/17
