O Handbrake inclui uma versão de linha de comando, o que é legal. Isso faz com que seja agradável às maravilhas do Automator, e há um monte de boa documentação na Internet sobre a combinação dos dois; uma está no link
Você também pode usar outras ferramentas, como observado aqui, que abrange muito bem o lado do Automator: link
Fazer qualquer um desses trabalhos com ffmpeg em vez de Handbrake, ou QuickTime, é bem simples: trabalhe o que você precisa que o ffmpeg faça (ou pegue um dos conjuntos de wrappers para isso), e então faça Automator dirigir por você.
Se você quiser fazer isso em um Linux remoto, então inoticoming , inocron, ou outras ferramentas construídas no inotify podem fazer o mesmo material "assistir uma pasta" que o Automator no mac fará.