Você pode usar avconv
para converter arquivos de áudio / vídeo
avconv -i your_x265file -qscale 1 -c:v libx264 -c:a copy output_x264file.mp4
Explicação:
-qscale 1 - range from 1 to 31 where 1 is the best quality
-c:v - codec video convert to x264
-c:a - codec audio copy as is
Você pode verificar quais codificadores estão presentes com avconv -encoders
e você pode usar algo diferente de x264
Você tem que estar preparado, pode levar muito tempo de acordo com o seu hardware