Você pode tentar avconv
.
De acordo com manpage para o comando avconv
O avconv é um conversor de vídeo e áudio muito rápido que também pode uma fonte de áudio / vídeo ao vivo.
Existem muitas opções no avconv, mas para gravar a tela, o comando seria como
avconv -f x11grab -s 1024x768 -r 50 -t 500 -i :0.0 ~/Videos/name.mp4
Aqui,
-f: format for input file, x11grab for recording screen
-s: resolution, can be axb(eg. 1024x768) or some predefined words like hd1080
-r: rate(or bitrate).
-t: time, as seconds(500) or HH:MM:SS.[XXX](eg 01:04:59 or 01:56:43.111)
-i: input, here :0.0 generally
Finally the output file name