O arquivo vpx_codec.h
pertence a um pacote chamado libvpx-dev
Para corrigir o erro, instale-o executando o comando sudo apt-get install libvpx-dev
.
E então execute o comando ./configure
com os mesmos argumentos de comando e você verá o seguinte resultado:
checking for vpx_codec_destroy in -lvpx... yes