Acho que você precisa usar os seguintes parâmetros:
# I changes the permissions to rw-rw-r--
# You should be able to change them to 775 if you need the files to
# be executable
create mask = 664
force create mode = 664
security mask = 664
force security mode = 664
# I set the SGID flag here as I thought this is what you wanted
# You could change to 0775
directory mask = 2775
force directory mode = 2775
directory security mask = 2775
force directory security mode = 2775
Eu estava procurando uma boa explicação de como essas configurações funcionam, mas não consegui encontrar nada melhor do que man smb.conf
Você terá que rolar um pouco para essas opções.
Basicamente, em poucas palavras, as permissões do Windows não são as mesmas do unix (linux) e é um pouco estranho como o samba mapeia as permissões.