Isso é típico se você removeu o antigo 5 vermelho e não o desligou antes de você fazer isso. O serviço antigo pode não ser encerrado corretamente e ter algum recurso aberto (porta).
Você deve ver se ainda há um executável red5 executando ps
mesmo depois de executar service red5 stop
, ou se isso falhar, reinicialize sua máquina.