Simplesmente excedendo o espaço da RAM, você obtém tudo o mais colocado na partição swap, que é muito mais lenta que a RAM. Assim, o resultado é uma resposta mais lenta do sistema.
Portanto, a solução seria ter menos programas abertos. Por outro lado, há swappiness
% bl0ck_qu0te%de wiki
e este tópico explica como usá-lo.