Em Guia do usuário do iSpy You can also set a maximum CPU target value in settings. By default this is set to 90%. This means that when your CPU usage goes over 90% iSpy will start reducing the framerates of your cameras to help protect against a crash.
Basicamente, o que estava acontecendo é que sua configuração anterior tinha gráficos integrados que enfatizavam seu processador. Sua CPU deve estar sempre acima ou acima de 90% de utilização.
Agora que você tem uma GPU dedicada, todo o trabalho gráfico foi descarregado da sua CPU e colocado na sua GPU. Agora ele não está mais reduzindo as taxas de quadros de suas câmeras, já que sua CPU não está tão estressada, o que causaria tamanhos de arquivo maiores sem ter alterado as configurações.