Você instalou as bibliotecas de desenvolvimento de software xenomai, não os próprios pacotes xenomai. Mais importante, uma verificação rápida do site xenomai indica que você precisa compilar um módulo do kernel (provavelmente xeno-vxworks) e adicioná-lo ao seu kernel antes que ele funcione.
As instruções aqui são para o Debian ao invés do ubuntu, mas elas devem ao menos apontá-lo na direção certa .