Quando você executa umask com system ele é executado em um shell: umask altera a máscara desse shell, mas o shell termina imediatamente e a alteração é perdida.
Para alterar a umask do seu processo em Python, use os.umask() , que vai:
Set the current numeric umask and return the previous umask.
Dessa forma, a alteração será feita no seu programa em execução, em vez de outro programa que morre imediatamente depois.