Não sei se essa é a melhor abordagem , mas o comando a seguir faz o que você quer e lista todos os arquivos e entradas de diretório para os quais existem nomes duplicados insensíveis a maiúsculas e minúsculas:
find /path/to/check -type f -o -type d | tr A-Z a-z | sort | uniq -d
O que ele faz é localizar todos os arquivos e diretórios em / path / to / check, fazer a saída em minúsculas, classificar essas entradas (necessárias, pois uniq compara apenas linhas adjacentes) e filtros para mostrar apenas linhas duplicadas, isto é, arquivo ou diretório duplicado entradas.
Exemplo: Se eu quisesse verificar o Volume do Bootcamp no OS X para duplicatas, eu abriria Terminal.app e executaria
find /Volumes/BOOTCAMP/ -type f -o -type d | tr A-Z a-z | sort | uniq -d