você pode usar o irexec para kickoff mencoder, que pode usar uma entrada v4l. Você terá que usar o tv: // url como a fonte de codificação e especificar o dispositivo v4l com algumas opções que podem ser encontradas na página do manual mencode / mplayer.
Você também deve ser capaz de usá-lo para iniciar o VLC como um codificador (o VLC pode rodar sem cabeça [menos um gui] e usar um codificador com todos os recursos) a partir da linha de comando.
Mas, para a solução mais fácil, acho que você deve procurar em um aplicativo de DVR do Linux como o MythTV, que deve suportar tudo isso de imediato.