Você pode usar a opção "arquivos de veto". Por padrão, está desativado.
[global]
veto files = /*.avi/*.mp3/
delete veto files = yes
Na restrição global, escreva para qualquer pasta de compartilhamento que você tenha. Ou apenas público
[public]
path = /path/share
veto files = /*.avi/*.mp3/
delete veto files = yes