A resolução da tela 4k não será o seu problema, o problema está relacionado a qualquer software que você esteja usando.
Uma imagem de 4096 x 2160 (equivalente ao seu display de 4k) seria 4096 x 2160 x 4 (RGBA) ~ = 34MB. Você está emitindo essa quantidade de dados 60 vezes por segundo, mas você só terá alguns buffers para a exibição.
Supondo que alguns buffers ainda signifiquem que seu display tem menos de 100MB, a questão é como os programas que você está usando estão usando memória RAM.
A placa precisa ter a largura de banda interna e as saídas capazes de conduzir um display de 4k, mas isso é comprovado pelo fato de que você pode ligá-lo em primeiro lugar. Você tem memória suficiente e as saídas são rápidas o suficiente.
São os programas que fazem sua própria renderização e composição antes de passá-lo para a placa gráfica que está consumindo seu VRAM.
Na verdade, a maioria dos programas modernos depende muito mais da placa gráfica do que costumava e pode ser esse peculiar de "inchaço" que é o seu problema.
Se você acha que 2 GB simplesmente não são suficientes para seu caso de uso atual, então sim, mais VRAM é necessário.