O ffmpeg (ainda) não tem a funcionalidade do servidor RTMP. O que ele faz quando sai para o URL rtmp é que ele gera o fluxo, que é um feed de entrada para servidores RTMP (como o Wowza ou similar). Em poucas palavras, o ffmpeg alimenta o servidor RTMP real com a entrada que está sendo transmitida por esse servidor RTMP.