Você pode tentar o filtro aresample e a opção framerate para a entrada.
-rtbufsize 1500M -f image2pipe -framerate 25 -i pipe:.bmp \
-rtbufsize 500M -f dshow -i audio="Stereo Mix (Realtek High Defini" \
-af aresample=async=1
-c:v libx264 -r 25 -acodec pcm_s16le -ac 2 -ar 48000 C:\test.avi