Seus problemas não têm nada a ver com a conversão de vídeo e tudo a ver com a localização do ffmpeg binário.
Assumi que você baixou ffmpeg de evermeet.cx . Tudo bem, e eu geralmente forneço esse link para outros usuários do macOS para obter uma versão recente.
O download do link .dmg pode ser mais fácil do que o .7z , porque o macOS pode extrair o .dmg sem ferramentas de terceiros.
Uma vez extraído, você pode mover o arquivo ffmpeg para /usr/local/bin (ele pedirá uma senha para isso). Você pode então executar o comando ffmpeg de qualquer diretório.
Como alternativa, você pode movê-lo para onde quiser, mas terá que fornecer o caminho completo para o local, como ~/Downloads/ffmpeg -i ... ou primeiro navegar até o diretório em que está e executar ./ffmpeg -i ... (note o prefixo ./ ).