Sua tentativa de pingar "ipaddress" não sai em primeiro lugar, pois é descartada na cadeia de saída. Tente isto:
sudo iptables -F
sudo iptables -A INPUT -i lo -j ACCEPT
sudo iptables -A INPUT -s ipaddress -j ACCEPT
sudo iptables -A INPUT -j DROP
sudo iptables -A OUTPUT -d ipaddress -j ACCEPT
sudo iptables -A OUTPUT -j DROP
sudo iptables -A FORWARD -j DROP
Observe que você pode ou não precisar permitir algum tráfego mínimo para que seu sistema funcione corretamente. Veja esta outra resposta.