A coisa mais importante com o VLC é verificar o log de mensagens. Então, quando eu corri o seguinte:
vlc -vvv dshow:// --sout-keep --sout-all --sout=#rtp{dest=192.168.1.66,port=8833,sdp=file:///C:\test\my.sdp}
Eu tenho o seguinte no meu log de mensagens:
stream_out_rtp error: missing destination and not in RTSP mode
Isso me diz que o VLC está perdendo o destino. Se você analisar novamente a linha de comando, perceberá que digitou dest em vez de dst . Então, corrija o erro e agora execute:
vlc -vvv dshow:// --sout-keep --sout-all --sout=#rtp{dst=192.168.1.66,port=8833,sdp=file:///C:\test\my.sdp}
Ainda não há arquivo. Parece que o módulo de saída do SDP não produz muita saída, mas eu posso dizer a você por experiência aqui que é o caminho do arquivo que está causando o problema. Use apenas barras de estilo * nix em caminhos, para que você corrija o caminho e execute:
vlc -vvv dshow:// --sout-keep --sout-all --sout=#rtp{dst=192.168.1.66,port=8833,sdp=file:///C:/test/my.sdp}
E, supondo que as permissões estejam configuradas corretamente no diretório C: \ test, você deve obter o arquivo sdp.