O melhor sucesso que tive foi usar MPlayer para transcodificar os streams para MPEG não-comprimido, um formato muito mais utilizável.
Outra opção é usar o GraphEdit , uma ferramenta fornecida com o DX e permite carregar módulos e redirecionar manualmente os pinos por meio de codecs . Você obtém resultados mistos embora. Há um remake GPL chamado GraphStudio , ainda não usei isso.
Ainda não encontrei um único método sólido, é sempre isso ou aquilo quando se trabalha com flv.
PS. Eu sinto sua dor, FLV me causou muitas dores de cabeça também. Boa sorte:)