O OpenWRT e o DD-WRT são apenas dois projetos diferentes que "energizam" os roteadores. Veja como se você estivesse comparando distribuições Linux. Sua pergunta seria semelhante a perguntar qual é a diferença entre o Ubuntu e o Fedora. Eles oferecem recursos diferentes para diferentes propósitos.
Sobre os arquivos: Um é um arquivo .img, que apaga completamente o firmware e o substitui por uma nova imagem. O .bin é apenas um "sysupgrade", por isso é apenas uma atualização que não substitui a imagem atual.