Sí, es el síntoma más clásico de una fuente de alimentación que no puede con la carga. Las GPUs modernas tienen picos de consumo muy altos, y una PSU de baja calidad no puede mantener el voltaje estable, así que se apaga por protección.
Nunca ahorres en la PSU. Es el componente más importante. Busca una de una marca de calidad (Seasonic, Corsair, be quiet!) con una certificación 80 Plus Bronze como mínimo.