mitsuki

そういえば、8087はI/FはIEEE754だけど内部80bitなので、表現はともかく結果の値かなにかが微妙に非互換とか聞いたことあるけど、なんだったかな(NaNではない

Intel 8087 ja.wikipedia.org/wiki/Intel_80

1
mitsuki
フォロー

内部レジスタのほうがビット幅が広くなるので、計算誤差がより小さいところで起きるようになり、結果の計算精度が良くなる……ということで、特に仕様外ではないらしい(拡張精度形式

ja.wikipedia.org/wiki/IEEE_754

· · SubwayTooter · 0 · 0 · 0
ログインして会話に参加
Fedibird

様々な目的に使える、日本の汎用マストドンサーバーです。安定した利用環境と、多数の独自機能を提供しています。

トレンドタグ

リソース

開発者向け

Mastodon とは？

fedibird.com

さらに…