Não existe um sistema de arquivos "Unix". Nem um sistema de arquivos "Windows" chega a isso. Você quer dizer NTFS, FAT16, FAT32, ext2, ext3, ext4, etc. Cada um tem suas próprias limitações em caracteres válidos em nomes.
Além disso, o título e a pergunta de sua pergunta se referem a dois conceitos totalmente diferentes? Você quer saber sobre o subconjunto de caracteres legais ou quer saber quais caracteres curinga podem ser usados em ambos os sistemas?
link afirma que "todos os bytes exceto NULL e '/'" são permitidos em nomes de arquivos.
O link descreve o caso genérico de nomes de arquivos válidos ", independentemente do sistema de arquivo". Em particular, os seguintes caracteres são reservados < > : "/ \ |? *
O Windows também impõe restrições ao não uso de nomes de dispositivos para arquivos: CON, PRN, AUX, NUL, COM1, COM2, COM3, etc.
A maioria dos comandos nos sistemas operacionais Windows e Unix aceitam * como curinga. O Windows aceita% como um único caractere curinga, enquanto shells para sistemas Unix usam? como caractere curinga de caractere único.