Você precisa adicionar o diretório onde você instalou ffmpeg em sua $PATH , a lista de diretórios onde os executáveis podem ser encontrados. A maneira mais simples é adicionar essa linha ao seu ~/.profile :
export PATH="$PATH:$HOME/ffmpeg
Observe que você precisa adicionar o diretório que contém o executável ffmpeg e não o executável em si. Em seguida, efetue logout e login novamente (ou apenas execute . ~/.profile ) e você poderá executá-lo de qualquer lugar.