De acordo com os documentos, você não pode definir o bit SGID na diretiva umask; diz: "Qualquer argumento fornecido deve ser um número octal, no formato 0xxx."
Como o joschi alude, o que você realmente quer é "Umask 0002" - um umask é bit a bit para o objeto, não uma configuração absoluta de CHMOD. Você só precisa especificá-lo uma vez (não "umask 0002 0002"), pois o primeiro será aplicado a todos.