Essa combinação específica de opções: -P --charset UTF8 não faz sentido. -P é usado para definir um padrão para diretórios que tree print:
-P pattern
List only those files that match the wild-card pattern.
Você definiu o padrão como --charset , o qual .gitkeep não corresponde, é claro. Isso deixa UTF8 como um argumento não-opcional, que tree interpreta como um nome de diretório, daí o erro que você tem.