I have a suspicion (perhaps unfounded) that the motion detection and transcoding are adding a lot of complexity, and that's getting in the way of the recording reliability.
O hardware sempre limitará a "confiabilidade" e, embora seja extremamente improvável que a detecção de movimento também cause muitos problemas, a conversão de um formato para outro quase sempre será intensiva em hardware.
Quanto à solução que melhor se adequaria à conta de acordo com suas necessidades, FFMpeg (aqui estão alguns O Windows constrói o FFMpeg ) e alguns scripts / automação são provavelmente sua melhor resposta.
O FFMpeg é nativo do Linux, pode gravar potencialmente os fluxos de rede em .mp4, pode ser iniciado e interrompido programaticamente com scripts e suporta uma ampla gama de dispositivos, incluindo aqueles que exportam H264.
Back of the envelope math says that a 2 Mbps stream is 22GB per day[...]
Este artigo afirma que 15 GB por dia se o IR for gravado como preto e branco. Também parece ser um bom ponto de partida para gravar câmeras IP no Linux com o FFMpeg.