A codificação usada para um arquivo e o uso de codificação para o nome desse arquivo são coisas diferentes. Eles não se correlacionam.
O uso de codificação para o nome do arquivo depende do sistema de arquivos. Para Windows razoável esperar NTFS e outra pergunta ( Que codificação são nomes de arquivos em NTFS armazenado como? ) tem alguma informação sobre. Para o Linux, seria mais difícil responder e parece que também é importante o tipo de framework que está tentando ler um arquivo se você olhar as respostas para uma pergunta como: Que codificação de charset é usada para nomes de arquivos e caminhos no Linux?