umask não especifica diretamente o modo; especifica a máscara aplicada ao modo base, informando quais bits limpar (mas não quais configurar).
Talvez não intencionalmente, também é invertido: um bit 0 significa "não muda", mas um bit 1 significa "limpar (mascarar) este bit". Então 0707 limpa todos os bits do usuário / mundo e 0777 limpa tudo.
O que você quer é 0, 07 ou 077 (dependendo se os arquivos devem ser legíveis por grupos e pelo mundo).