Sua memória virtual é limitada pelo tamanho máximo do seu arquivo de paginação. Este padrão é gerenciado pelo sistema operacional e crescerá conforme necessário, portanto, você provavelmente só ficará sem espaço quando o disco rígido estiver cheio.
Você pode verificar se está usando essas configurações ou se elas foram alteradas via
Right-Click on my My-Computer and select properties.
Advanced system settings.
Advanced
Settings (on performance section)
Advanced
Change (on Virtual Memory section)
Quando o Windows chegar perto do limite, ele exibirá um aviso e recomendará que você feche alguns dos programas que estão usando a maior parte da memória.
Se você ignorar esses erros e seu sistema continuar a usar mais memória, eventualmente algum programa tentará alocar memória que falhará. O que acontece a seguir depende do programa, ou seja, se o programa é especificamente escrito para lidar com esse pedido sendo negado, ele irá falhar de forma limpa, caso contrário, pode simplesmente falhar.
Por exemplo, se você tentar abrir outro arquivo grande no PhotoShop, ele poderá exibir uma mensagem dizendo que não pode abri-lo porque o sistema não tem memória suficiente, mas ainda permite que você continue trabalhando com os arquivos já estão trabalhando. Mas se você está totalmente sem memória, você pode não ter o suficiente livre para exibir esta mensagem e talvez não o suficiente para exibir a mensagem perguntando se deseja salvar seus arquivos quando você tentar fechar.
Então, na minha experiência, há muitas coisas que fracassam quando você chega a este ponto, que você realmente deve prestar atenção ao aviso, mas mesmo que você o ignore, você certamente não deve esperar um BSOD.