O formato adequado é terminar o "dst" com um aspas duplas e, em seguida, citar a instrução de seleção.
cvlc multi-program-input-source.ts
--sout '#duplicate{
dst="transcode{width=640,height=360,OTHER_SETTINGS}:rtp{mux=ts,dst=SOMEWHERE,port=20000}",select="program=3",
dst="transcode{width=704,height=480,OTHER_SETTINGS}:rtp{mux=ts,dst=SOMEWHERE,port=20002}",select="program=4"
}'