Até recentemente, o FFmpeg não conseguia decodificar o plano alfa nos fluxos VP8 / 9 com alfa. Ainda não pode.
Mas se você tiver uma compilação recente (> 16 de julho) do FFmpeg com libvpx
compilada, poderá usar
ffmpeg -i base.mp4 -c:v libvpx -i overlay.webm -filter_complex overlay output.mp4