Isso soa muito como se tivesse acabado de um recurso ou outro.
Há quanto tempo você tentou sair do login do console? Pode ter sucesso depois de um tempo (consideravelmente longo).
A menos que você possa fazer o login, não há como desligar o sistema normalmente, embora pressionar o botão liga / desliga possa enviar um sinal ACPI PowerDown que deve desligar o sistema normalmente. Você pode até achar que mesmo isso não funciona, então um desligamento rápido (pressione e segure o botão liga / desliga por 4 segundos) é tudo que você pode fazer realmente.
Os sintomas lembram muito uma bomba 'fork / malloc' - um truque bastante desagradável em sistemas Linux desprotegidos pelo qual um usuário básico pode fazer com que a máquina pare de consumir todos os processos livres e usar todos os memória.
Você deve investigar a limitação do número de processos e da quantidade de memória que um usuário básico pode usar para garantir que isso não aconteça novamente.