Правильно: 23-ю ступеньку. Подробнее см. в «Письмовнике».
Верно: Переступая, словно робот, ватными ногами со ступеньки на ступеньку, я сумел преодолеть два лестничных пролета.
Вместо запятой и тире следует поставить двоеточие: Пожилому человеку удобно по ней прогуливаться: без лишних ступенек, подъемы и спуски пологие...