Корректно: их психика зачастую не сформирована и неустойчива.
Такое употребление правильно, т. к. одно из значений слова психология, от которого образуется прилагательное психологический, – 'психика, особенности характера, душевный склад'.
Запятая нужна.