Choose the appropriate form of the verb.They ... for hours when t ...

Они занимались много часов пока внезапно не осознали, что было уже 12 ночи (полночь).

Когда говорится сколько (как долго) продолжалось действие до какого-то момента времени в прошлом, употребляются Past Perfect или Past Perfect Continuous. В данном случае до того, как они осознали (т.е. момент в прошлом), прошло несколько часов занятий (т.е. в предпрошедшем), поэтому правильно сказать: They had been studying for hours.