Use um editor hexadecimal como o @ChrisF sugere. Um bom para o Windows é "HxD".
Por favor note que geralmente os computadores lidam com múltiplos de 8 bits de cada vez, a menos que interfiram diretamente com o hardware (e na maioria das vezes, mesmo assim). Então, olhar para um arquivo dividido nesses limites é geralmente melhor e mais significativo do que apenas um fluxo bruto de 0s e 1s.
Aprenda sobre o hexadecimal e como ele se relaciona com o binário primeiro. É realmente muito simples (0 = 0000, 1 = 0001, 2 = 0010, ... 9 = 1001, A = 1010, B = 1011, C = 1100, D = 1101, E = 1110, F = 1111)
Além disso, comparar os arquivos manualmente pode ser entediante. Você provavelmente precisará de uma ferramenta como BinDiff , vbindiff ou similar.