Все названия нужно оставить в начальной форме.
В большинстве случаев названия рек согласуются с родовым наименованием, т. е. склоняются: по реке Оби, по реке Днепру. Однако малоизвестные названия рек обычно не согласуются. Представляется, что Пур можно отнести к малоизвестным названиям рек, следовательно: по реке Пур.