Se você quiser apenas visualizar as alterações, não editá-las, você pode converter os arquivos para hexadecimais com um programa e então diferenciar a saída com qualquer programa de diferenciação gráfica que você queira. É provavelmente apenas prático se houver apenas bytes alterados (não inseridos) entre os arquivos.
Como um verso:
meld <(hexdump -C file1.bin) <(hexdump -C file2.bin)
E aqui está uma captura de tela de 2 cópias diferentes do libssl.so no meu sistema: