Parece que há muita confusão acontecendo aqui, mas para responder às suas perguntas diretas:
Why would anyone use a binary configuration file?
Arquivos de configuração binários são provavelmente menores que um formato de texto. Se o arquivo de configuração "format" corresponder exatamente ao seu layout na memória, você pode apenas ler o arquivo sem precisar de um analisador.
Hoje em dia, as desvantagens (o arquivo não ser legível por humanos, falta de compatibilidade com versões anteriores e posteriores) quase certamente superam as vantagens, mas podem ser alguns sistemas incorporados muito pequenos, em que é uma troca sensata.
Why do I need a special editor to read it?
Porque uma cadeia de dígitos hexadecimais (ou binária, ou qualquer outra coisa) geralmente não é compreensível para um ser humano. Olhe para o despejo hexadecimal de um arquivo gzipado e diga-me o que ele diz sem usando uma ferramenta para descompactá-lo.