12:28:52 @upsilon@m.upsilo.net
2022-03-06 11:51:24 kb17uy님의 게시물 kb10uy@mstdn.maud.io
icon

小数を計算してきれいな値になることを期待してはいけなくて、それはそれとして int を明示的に扱いづらい(BigInt とかはあるにせよ)ので int のつもりで渡したパラメーターが外部ライブラリで double/float になってたみたいな悲しい事故が起こりがち

12:28:53 @upsilon@m.upsilo.net
2022-03-06 11:54:03 kb17uy님의 게시물 kb10uy@mstdn.maud.io
icon

10 進小数のライブラリなり組み込み型を使おうね(思い出すシリーズ: COBOL)

12:29:34 @upsilon@m.upsilo.net
icon

人類に2進浮動小数点数は早すぎた的な

12:37:01 @upsilon@m.upsilo.net
icon

IEEE 754に十進形式もあるの知らなかった

12:40:42 @upsilon@m.upsilo.net
2022-03-06 12:39:07 まちカドおるみん御嬢様님의 게시물 orumin@mstdn.maud.io
icon

ちなみに IEEE 754 の十進表現は BCD を洗練させた DPD だとか >> Densely packed decimal - Wikipedia ja.wikipedia.org/wiki/Densely_