Use -m state --state ESTABLISHED,RELATED
para corresponder ao tráfego de retorno. Além disso, você não precisa incluir uma regra de "soltar tudo", basta alterar a política de encadeamento do INPUT para "DROP".
sudo iptables -F INPUT
sudo iptables -P INPUT DROP
sudo iptables -A INPUT -m state --state ESTABLISHED,RELATED -j ACCEPT
sudo iptables -A INPUT -p tcp --dport 22 -j ACCEPT