Se o seu sistema não estiver respondendo, não acho que você possa fazer nada, exceto a reinicialização / reinicialização do hardware.
Em uma arquitetura com vários núcleos, apenas um núcleo da CPU deve estar ocupado com 100% de uso. Outros núcleos devem estar disponíveis. Portanto, você deve conseguir se conectar ao seu servidor usando outro shell.