A maneira como a aspa simples que deveria seguir a palavra filter migrou de volta para o início da linha me deixa muito desconfiada de que o arquivo de regras contém caracteres ^M espúrios nas extremidades das linhas, e que iptables está realmente reclamando que can't initialise table 'filter^M' - o que certamente não pode, não havendo tal tabela.
Esta não-impressão (e, portanto, difícil de ver) ^M teria vindo da primeira linha do arquivo que você cita acima, se fosse de fato *filter^M .
A maneira mais fácil de ter certeza é abrir o arquivo com vi no modo binário, vi -b /etc/sysconfig/iptables (suponho que seja o arquivo que você está citando acima) e procure por caracteres não imprimíveis que não deveriam esteja lá.
Editar : desde que parece ter sido o problema, posso fazer uma pequena recomendação para "coisas que se pode aprender com este episódio"? O que é: que as anomalias detalhadas são importantes ao depurar o software livre.
O software comercial faz coisas por razões não técnicas, então, muitas vezes, nada pode ser inferido a partir de anomalias aparentes. Mas o software livre tende a não fazer isso; se, digamos, uma aspa simples aparecer no início de uma linha onde normalmente não aparece, geralmente há uma razão técnica para isso - e isso pode ser de grande ajuda na depuração.