A mensagem "codec desconhecido" indica que não é possível determinar o codec usado pelo arquivo de entrada. Portanto, especifique o codec de entrada na linha de comando ( rawvideo
neste caso). Para converter para 4: 2: 0 H.264:
ffmpeg -c:v rawvideo -i input.avi -c:v libx264 -pix_fmt yuv420p output.mp4