The directories specified with StateDirectory=, CacheDirectory=, LogsDirectory=, ConfigurationDirectory= are not removed when the unit is stopped.
Não há argumento oficial suportado pelo systemd que limpe esses diretórios. Você pode usar um script para fazer isso.