As informações contidas nesta documentação devem estar corretas.
Faça login no seu servidor via ssh e vá para o subdiretório conf no diretório de instalação do red5
cd /path/to/red5/conf
Lá você deve encontrar um arquivo chamado red5.properties
. Abra-o em um editor e altere a configuração da porta de acordo com suas necessidades.
Não se esqueça de reiniciar o red5 depois para ouvir a nova porta. Você também terá que reiniciar o Plesk para que ele possa ligar à porta 8443 novamente.