Eu acho que o TextEdit não usa uma fonte monoespaçada por padrão. Os arquivos de tabulação dependem do espaçamento previsível e as fontes monoespaçadas (fontes em que cada caractere obtém exatamente o mesmo espaço que todos os outros caracteres) permitem isso.
O Bloco de notas usa como padrão uma fonte monoespaçada (embora você possa alterá-la e, em seguida, provavelmente teria o mesmo problema do TextEdit).
Eu não estou familiarizado com o TextEdit, mas gostaria de verificar suas configurações para uma configuração Monoespaçada ou para seleção de fonte e, em seguida, localizar e selecionar uma fonte monoespaçada.