Concordo com comentários sobre mais RAM. Respondendo sua pergunta: você pode criar uma partição swap adicional (se você tem espaço extra em um disco rígido) ou criar um arquivo de troca.
dd if=/dev/zero of=/path/to/swap_file bs=1024 count=${size_of_additional_swap}
mkswap /path/to/swap_file
swapon /path/to/swap_file
Quanto mais swap em uso, mais carga em seu disco rígido e definitivamente mais lento o sistema.