Acho que podem ser duas opções possíveis para resolver o seu problema.
1) Tente adicionar
force user = myuser
force group = debian-transmission
para a seção [global]
em /etc/samba/smb.conf
2) Segunda opção. Não tenho certeza se funciona, mas você deve tentar se o primeiro método falhar. Adicione um sticky bit na pasta compartilhada.
chmod 2770 SHARED_FOLDER
find SHARED_FOLDER -type d -exec chmod g+s {} \;