Resposta oficial
Por causa dos riscos envolvidos na execução de binários de locais desprotegidos, fazendo tal coisa deliberadamente não é permitido.
Solução alternativa
PortableApps.com tem uma cópia portátil do Audacity que você pode executar a partir da unidade flash e teve seus plug-ins também. Certifique-se de ler o fineprint sobre a adição de LAME e FFMPEG para esta versão .