Você precisa compilar quaisquer bibliotecas externas usadas como dependências ffmpeg, como x264 e libvpx (se você não quiser usar as versões -dev do repositório), usando um --prefix personalizado e pode precisar use opções adicionais. Veja ./configure --help para opções específicas de cada biblioteca. Em seguida, compile o ffmpeg informando onde estão as bibliotecas externas e onde você deseja instalá-lo. Veja alguns exemplos neste tópico: