Корректно: Треугольник является прямоугольным, если и только если квадрат гипотенузы равен сумме квадратов двух катетов; Треугольник является прямоугольным тогда и только тогда, когда квадрат гипотенузы равен сумме квадратов двух катетов.
Пробелы нужны. Знаки математических действий и соотношений (+ , – , х , : , / , =) отбивают от смежных символов и чисел.
Квадрат в значении 'квадратный метр' – разговорное употребление. Если это слово в таком значении используется в стилистически нейтральном тексте, кавычки нужны.
Правильно со строчной буквы, поскольку нет оснований для написания с прописной.
В рабочем диалоге, в непринужденной беседе (но не в образцовом литературном языке) такое употребление допустимо.