Quando você especifica opções em arquivos predefinidos, esses mapeiam para opções ffmpeg reais, não as opções de codificador que imprime quando você olha para a saída de depuração.
Por exemplo, fast_pskip em x264 é chamado -fast-pskip em ffmpeg . O mesmo para rc_lookahead , que é chamado de rc-lookahead . Dê uma olhada em ffmpeg -h full , seção libx264 AVOptions para todas as opções possíveis que você pode mapear diretamente.
Para todos os outros, você deseja usar a opção -x264opts e passar uma lista de key=value:key=value , por exemplo:
ffmpeg -i input.mp4 -c:v libx264 -x264-params rc_lookahead=30:keyint=500 output.mp4
Observe que raramente há um ponto na configuração manual dessas opções. Use a opção -preset e escolha uma das predefinições x264 se quiser mantê-la simples.