Isso significa que você está tentando inserir a regra em uma posição que não existe na tabela.
Nesse caso, -I INPUT 5 informa iptables para inserir a regra na posição 5 da tabela INPUT , mas a tabela é menor do que isso.
Esse guia aparentemente assume algumas regras pré-existentes que você não possui. Eu olhei e não mostra o que eles esperam.
O mais provável é que simplesmente pule o 5 :
sudo iptables -I INPUT -m state --state NEW -m tcp -p tcp -m multiport --dports 5901:5903,6001:6003 -j ACCEPT