Depois de me deparar com esse mesmo problema e ver várias postagens inúteis que "resolveram" esse problema, finalmente localizei meu problema em uma linha na seção de compartilhamento específica que eu queria que fosse gravável em grupo:
force directory mode = 2770
O "2" é OBRIGATÓRIO e o servidor Samba não tornará os diretórios recém-criados graváveis em grupo sem isso (ou seja, 0770 NÃO é suficiente). Estou usando o daemon do Samba no Ubuntu 12.04.01, com o cliente windows padrão para criar o diretório.
Seria bom se isso fosse documentado na página man do smb.conf .....
Apenas para esclarecimentos, o seguinte NÃO funciona para mim (mesmo com "extensões unix = off" - os diretórios são criados com a permissão 0750):
[MyShare]
writeable = yes
force group = somegroup
...
directory mask = 0770
directory security mask = 0770
force directory mode = 0770
force directory security mode = 0770