Você disse ao seu servidor para aceitar conexões recebidas na porta 465, mas também está dizendo para se conectar a smtp.gmail.com, que é uma saída conexão.
Você precisará abrir as mesmas portas, mas na cadeia OUTPUT, em vez de INPUT:
-A OUTPUT -p tcp --dport 465 -j ACCEPT
Para editar a partir do terminal, o comando seria:
iptables -A OUTPUT -p tcp --dport 465 -j ACCEPT