Se as posições não são importantes, você pode classificar os arquivos e, em seguida, realizar um diff. Você terá que salvar os arquivos classificados na área temporária.
sort file1 > /tmp/file1
sort file2 > /tmp/file2
diff /tmp/file1 /tmp/file2
Você também pode tentar usar vimdiff
em vez de diff
.