Depois de pesquisas ainda mais profundas e algumas suposições de sorte, descobri que o DVR em questão não usa RTSP ou HTTP, ou qualquer URL para esse assunto. Ele se conecta ao IP: port e obtém algum fluxo de vídeo proprietário dele. Muitos outros DVRs baratos que funcionam com o vMEye também fazem isso, como o Zmodo e o Swann.
No entanto, alguém conseguiu fazer engenharia reversa para um aplicativo Android, e outra pessoa pediu permissão para fazer um programa em C que decodifica o fluxo de vídeo e o transmite como um canal. Não é perfeitamente confiável, mas aqui está: linkMas o cara conseguiu que as máquinas da Zoneminder se conectassem. Eu ainda tenho que descobrir como fazer o VLC ou SecuritySpy abrir o pipe no meu Mac ou no Debian (só porque eu sou novo em pipes e streams de vídeo), mas deve ser possível.