Se você deseja se conectar ao phpMyAdmin de fora da sua LAN, você deve encaminhar apenas a porta 80 (HTTP). Então você terá acesso a http://<public IP>:5011/phpmyadmin
Suponho que você tenha encaminhado 5011 - > 80 e 5016 - > 3360. Então você tem que remover o segundo. Os estranhos símbolos que você está obtendo agora é a resposta do MySQL. O phpMyAdmin conecta-se ao MySQL via socket local. Então você não precisa abrir (nem encaminhar) MySQL porta (3306)