Você pode usar ffmpeg ou avconv para essa tarefa.
Para converter um arquivo de áudio para o formato ogg, emita o comando 'ffmpeg -i inputfile outputfile.ogg
se bem me lembro, avconv tem a mesma sintaxe.
Você pode usar essa abordagem para converter virtualmente qualquer formato de áudio ou vídeo para qualquer outro virtualmente. Existem opções que você pode usar para reamostrar o áudio em diferentes taxas de bits e freqüências. Para mais detalhes, consulte a documentação do ffmpeg ou avconv docs. Dependendo do que você está convertendo, pode ser necessário instalar formatos restritos com apt-get install ubuntu-restricted-extras