Tanto mencoder
como ffmpeg
suportam o uso de um conjunto de imagens JPEG como entrada. Como o AVI é um contêiner, dependendo se ele suporta o codec, você pode até fazer um filme MJPEG (que deve corresponder quase literalmente ao empilhamento das imagens JPEG como quadros dentro do contêiner AVI).
Mas, a menos que você tenha requisitos de qualidade muito rigorosos, provavelmente será mais fácil se você tentar um dos codecs padrão ou mais comuns.
Já faz algum tempo desde que fiz isso pela última vez, mas navegando na web, parece que fazendo um filme fora dos quadros pode ser tão simples quanto emitir um comando como
ffmpeg -r 40 -i %d.jpg video.avi
Onde, -r
define a taxa de quadros. Aqui, isso gera um fluxo de vídeo divx por padrão. Mas é claro que você pode especificar outro codec de vídeo (ou outro container).