Um pânico do kernel ocorre quando um sistema operacional detecta um erro fatal do qual não pode se recuperar. Este é um termo específico para sistemas operacionais UNIX e UNIX (Linux, OSX, etc). O termo do Windows é um "STOP Error", e o sistema operacional fará um despejo de memória e escreverá nos arquivos de log do sistema, você pode até obter a conhecida "tela azul da morte".
O artigo da wikipedia aborda melhor do que eu: link