Com base na suposição não testada de que o Apache, internamente, não
suporta explicitamente o IDN, mas passa pelos domínios que ele
vê, você poderia reconhecer IDNs pelo fato de que seu código Punycode
versão começa com xn--
:
RewriteCond %{HTTP_REFERER} ^https?://.*xn--.* [NC]
Isso pode precisar de ajustes, dependendo de suas necessidades exatas (talvez você queira ser mais ou menos rigoroso do que isso).