Você disse que está recebendo um erro conexão recusada . Isso significa que não há processo local escutando na porta que você está tentando se conectar! Para verificar os processos de escuta, use o comando:
$ sudo netstat -lnp | grep 8080
Após aplicar a regra, você deve ter um processo de escuta na porta 8080 para se conectar.
Parece que você deve ter a seguinte regra:
$ iptables -t nat -I OUTPUT --source 0/0 --destination 0/0 -p tcp
--dport 443 -j REDIRECT --to-ports 8080
Lembre-se de que você está enviando do host local. Então, você precisa redirecionar o pacote de saída.