Se isso acontecer apenas quando você usar o modem, pode ser um problema / colisão do driver. Na próxima vez que você conectar o modem USB, vá até o gerenciador de dispositivos (clique com o botão direito em Computador-> Gerenciar e selecione Gerenciador de dispositivos na árvore) e procure por pontos de exclamação amarelos.
Antes de fazer qualquer coisa drástica, na próxima vez que o teclado parar de responder, tente conectar um teclado USB externo e ver se isso funciona.
Se o seu modem é bastante antigo, também pode haver um caso de colisão de interrupção com o teclado - que pode ser corrigido nas configurações da BIOS.
Boa sorte!