Não é apenas para a legibilidade humana, existem muitas razões programáticas para separar aplicativos de 32 bits de 64 bits. Considere a pasta "Arquivos comuns". Se você tiver um aplicativo de 32 bits e um aplicativo de 64 bits que use a pasta Arquivos comuns para um arquivo com o mesmo nome, você vai colocar a mangueira, qualquer que tenha sido instalada primeiro. Há também diferenças em como o Windows apresenta essas pastas para os aplicativos em si, embora eu não esteja familiarizado o suficiente com elas para explicá-las bem.
Por fim, esta é a primeira de muitas etapas na migração para aplicativos de 64 bits universalmente nativos. Apresentar as pastas de maneira diferente mantém a distinção visível tanto para desenvolvedores quanto para usuários, e os "Arquivos de Programas (x86)" de 32 bits são estranhos.