Традиция часто оказывается сильнее, чем "правильность", когда речь идет о собственных именах. Все (или многие) иностранцы знают, как произносить слово Москва по-русски (с ударением на последнем слоге), но кто так произносит?

Сочетание "го" произносится как "во" в окончаниях родительного падежа прилагательных: красного, умного и др., а также в местоимении его.

В неопределенной форме и в прошедшем времени глагола пишутся суффиксы -ева-, -ова-, если в 1 лице ед. числа настоящего или будущего времени глагол оканчивается на -ую, -юю: заведую - заведовать, воюю - воевать, кочую - кочевать. Если же глагол оканчивается на -ываю, -иваю, то пишутся суффиксы -ыва-, -ива: погдглядываю - подглядывать, устраиваю - устраивать.

В настоящее время английское h обычно передают через русское х. Например: Hugh Grant - Хью Грант. Однако в XVIII в., если не раньше, сложилась традиция передачи английского h через русское г. В этой традиции проявилась аналогия с передачей греческого "густого придыхания" (ср. слова гигиена, гимназия; собств. имена Гомер, Гераклит), а также латинского h (ср. гонорар, гуманизм, Гораций). По этой традиции передавали сначала немецкие имена в русском языке (Гамбург, Ганновер), а позднее английские (отчасти таже французские и испанские, где это уже не имело никаких фонетических оснований). В ряде английских имен и названий такая передача сохранилась и до нашего времени (Гамильтон, Гайд-Парк, Герберт, Говард), однако сейчас она считается устаревшей и не применяется для вновь транскрибируемых имен. В настоящее время h передают, как правило, через русское х. (Р. С. Гиляревский, Б. А. Старостин. Иностранные имена и названия в русском тексте. М., 1985).
Что касается Парижа, то это название пришло в русский язык через польский, где и появилась буква Ж.