Eu não tenho um sistema para testar, mas eu suponho que você precisa fazer algo assim.
Isso deve corresponder a qualquer nome de arquivo que comece com ~$
seguido por qualquer coisa e qualquer arquivo que termine em .tmp
.
<FilesMatch "(~\$.*|\.tmp)$"> ... </FilesMatch>