O manual do GNU aqui diz que há um limite de 8 GB para o arquivo tamanhos, então você deve estar bem lá, a menos que você tenha um arquivo maior do que aquele entre os outros menores que você mencionou. Se você precisar de arquivos maiores, poderá alterar o formato tar para POSIX com a opção tar --format
.
Se não for esse o caso, você está chegando ao final do cartucho de fita, talvez? Isso parece mais provável a partir das mensagens que você vê, parece-me.