В С++ при целочисленном делении результат также является целым числом, дробная часть отбрасывается и остается целая. Чтобы результат был правильным, можно использовать оператор приведения типов (float) 5 / 3; или использовать вещественную константу, для этого в целых числа после точки нужно добавить ноль 5.0 / 3.0 для хранения вещественных чисел нужно использовать тип float вместо int.