フォロー

浮動小数点というトピック1つだけで50ページ以上の同人誌が1冊あるくらいなので割と闇だと思う techbookfest.org/product/60184

昔日本の高校生ハカーがこのへん受験勉強をほったらかしてわれわれのmscorlibをガリガリ最適化していて心配になった記憶があるw


その本すごいですよね。しかしこういう本があることとか、Gauche Schemeの「Javaの浮動小数点数のバグみてGaucheでためしたらこっちにもあったw」話(※)とか、あとNaN boxingとかを見聞きしていると数値型って結局なんなんだみたいな気持ちになります…w

しかしその高校生は心配になりますねw 勉強しろっていうw

※Turing Complete FMの下記の回より
turingcomplete.fm/17

@t_sin そうそう、そして実装もglibcとBSDで違ったりとか、いろいろ実装の選択肢があって、選ぶことがあると無限に迷いますね…! doubleとdecimalでいろいろ違ったりとか、数値型は奥が深いです。
高校生の大学受験はなんとかなりましたw(だいぶ昔の話ですが)

ログインして会話に参加
Fedibird

様々な目的に使える、日本の汎用マストドンサーバーです。安定した利用環境と、多数の独自機能を提供しています。