Eu só quero envolver a suposição @rogerdpack correta em uma resposta, já que eu estava com o mesmo problema e isso ajudou.
Você deve especificar a URL entre aspas para que funcione, pois o ffmpeg não suporta opções de especificação de credenciais e a trata como uma URL inválida.
Então é só usar assim:
ffmpeg -ss 2 -i "rtsp://ip:554/user=myUser&password=myPassword&channel=2&stream=0.sdp?real_stream--rtp-caching=100" -y -f image2 -qscale 0 -frames 1 /Users/User/Desktop/testFolder/sample.jpeg