Такими и подобными вопросами занимается вычислительная математика - какая будет погрешность из-за переводов десятичная<>двоичная системы и как ее минимизировать. Дробные числа в компьютерах часто представляются приближенно, хочешь получить все верные цифры - округляй. В частности, калькуляторы считают обычно тоже с 3-4 запасными цифрами и при выводе на экран округляют. Программист должен знать, в числе прочих видов математики, вычислительную математику. Например, даже решение квадратного уравнения квалифицированно проводится не по школьным формулам, а по формулам, минимизирующим возможную погрешность вычислений.