Isso é chamado efeito de vinheta e o ffmpeg tem um filtro homônimo para ele.
ffmpeg -i video -vf vignette output
Você pode ajustar a queda usando o parâmetro angle
ffmpeg -i video -vf vignette=angle=PI/4 output
Se você quiser usar uma imagem como máscara,
ffmpeg -i video -loop 1 -i image -filter_complex \
"[1][0]blend=c0_mode=multiply:shortest=1" output.mp4
A resolução da imagem deve ser a mesma do vídeo.