Você tentou seguir estas instruções da documentação do Videolan (vá até a seção Vídeo sob demanda )?
Seria útil se você fornecesse um URL de teste rtsp que deseja transmitir.
Editar : as instruções do link acima são:
Primeiro, inicie a vlc:
vlc --ttl 12 -vvv --color -I telnet --telnet-password videolan --rtsp-host 0.0.0.0:5554
onde:
12 é o valor do TTL (Time To Live) dos seus pacotes IP (o que significa que o fluxo será capaz de cruzar 11 roteadores).
telnet lança a interface telnet da vlc.
videolan é a senha para se conectar à interface telnet.
0.0.0.0 é o endereço do host.
5554 é a porta em que você transmite.
Em seguida, conecte-se à interface de telnet vlc e crie o objeto vod :
new Test vod enabled
setup Test input my_video.mpg
Você pode acessar o fluxo com:
vlc rtsp://server:5554/Test
onde server é o endereço do servidor de streaming (IP ou DNS)