enum
типы, которые определены как вложенные типы, всегда неявно static
(см. JLS §8.9. Перечисления )
Вы не можете иметь статический вложенный тип внутри нестатического (например, «внутренний класс», см. JLS §8.1.3. Внутренние классы и экземпляры Enclosing ).
Поэтому вы не можете иметь enum
внутри нестатического вложенного типа.