Como tudo no Linux é um arquivo, um processo em execução é um arquivo que está localizado na pasta /proc na qual você não deve mexer manualmente a probabilidade é muito alto que pelo menos uma tarefa do VLC manteve esse arquivo para o processo vivo. Então normalmente uma simples reinicialização após a desinstalação do VLC provavelmente teria resolvido isso.
Sobre a sua pergunta se você foi hackeado. Eu não posso dizer. Mas, com certeza, soa duvidoso de alguma forma, e se eu, onde você, eu faria uma nova instalação só para ter certeza.