Корректно: Я всегда отвечу да.
Возможно без кавычек: сказал да (=согласился). Но: сказал твердое «да».
Допустимы оба варианта склонения: без выпадения гласного (Коренеца, Коренецу) и с выпадением гласного (Коренца, Коренцу). В официальных документах предпочтительно использовать первый вариант.
Верно: Ай да Рыжий, ай да сукин сын!
Запятая перед да не нужна.
Запятая не нужна.