Você precisa usar a cadeia OUTPUT , pois os pacotes destinados à interface loopback não passam pela cadeia PREROUTING . O seguinte comando deve funcionar:
sudo iptables -t nat -A OUTPUT -o lo -p tcp --dport 80 -j REDIRECT --to-port 8080