Se você estiver usando configurações gráficas MUITO altas, poderá descobrir que ele usa mais do que a sua GPU e começa a usar a RAM do sistema. Você pode usar o GPU-Z para ver quanto está sendo usado. Parece que o cartão tem apenas 256MB de RAM.
Aqui está uma pequena foto de todas as informações que você pode ver, eu peguei enquanto estava ocioso.