Но цикл прогоняется только один раз - по первому столбцу, а дальше деление не происходит. В чем может быть ошибка?
m=5
Такое ощущение, что столбец (j) не меняется вовсе, хотя он является вложенным циклом.
Тут проблема хотя бы в том, что ты саму первую ячейку тоже делишь на неё же. Надо j = 1. Си для профессионалов. Тренируясь на нем, ты в итоге получишь какие-то знания программирования, но не получишь ни одного изученного языка. Твои знания Си будут слишком далеки от "я знаю Си". Не эффективное обучение.