@kousaka_mil
0.01×0.01で‥‥( ˘ω˘)スヤァ
@kousaka_mil
バレましたかw
@hiropon0412 @BlaueKatze ROは小数第三位以下の端数切捨て説がワリと浸透してるのを考えると、int型ないしは整数型ベースに作った小数制御クラスで整数処理してるんじゃね?しらんけど。
@kousaka_mil @BlaueKatze
同じようなこと考えたことはあるwww
細かいことは同じくわからんけど、そのほうが楽な時代のプログラムな気がしてるし。。。
@hiropon0412 @kousaka_mil @BlaueKatze
*100して操作したあとで/100する古のアレですかねw
いうて今でも精密さを要求される金銭関係なんかは場所によってそうしてると聞いたりしますが
@Ishica @kousaka_mil @BlaueKatze
古の方法は、精度とか効率というか計算速度にも影響してるので、侮れないのですよねぇw( ˘ω˘ )
@Ishica @hiropon0412 @BlaueKatze 税関連のシステムだとワリとそうやってたりしますね。あとはCOBOLだと桁数で数値データ管理するからその辺気にしなく大丈夫だったりします。
ROはC(C++?)だった気がしますが。
@BlaueKatze @kousaka_mil
double?float?
どっちで計算するんだろなー?( ˘ω˘ )
(プログラマ的発想)