Eu acho que você pode usar o parâmetro "--run-time = 3600" como este
"C:\Program Files (x86)\VideoLAN\VLC\vlc.exe" http://xxx.xxx.xxx.xxx:31344 :sout=#duplicate{dst=file{dst=C:\\Users\\name\\Desktop\\JSC.ts},dst=display} :no-sout-rtp-sap :no-sout-standard-sap :ttl=1 :sout-keep --run-time=3600 vlc://quit
Ele será executado por cerca de uma hora (3600s)