-S
está fazendo alguma verificação de arquivos esparsos (aqueles em que nem todas as extensões de arquivo são fisicamente alocadas no disco). Isso pode estar ficando sem memória. Tente executá-lo sem o -S (compacte-o se realmente quiser) e veja se isso resolve o problema.
tar cf foo.tar *
ou
tar czf foo.tar.gz *