O pacote libvpx-devel
é para criação nativa, mas com base nesses flags de configuração, você está tentando fazer a compilação cruzada do ffmpeg para mingw64. Portanto, você precisa de versões mingw64-compiladas de quaisquer bibliotecas que você habilitar para usá-las com esta compilação.