Eu me deparei com esse problema uma vez. Eu resolvi o problema usando:
ffmpeg -f alsa -ac 2 -i pulse -acodec alac -ab 128k -f x11grab -s 'xdpyinfo | grep dimensions:'|awk '{print $2}'' -r 25 -i :0.0 -sameq final.mkv
Eu expliquei os detalhes desse comando em uma postagem no blog aqui .