A compatibilidade depende muito do programa em particular.
Pode ser acertar ou errar às vezes, para ser honesto. Muitos programas x86 funcionarão em um sistema operacional x64 sem problemas. Programas de 64 bits são mais otimizados para x64 que 32 bits, mas muitos ainda funcionarão.
Se você joga muitos jogos x86 e tal, e quer mantê-los e ter certeza de que eles funcionam, fique com x86 , já que você não terá nenhum problema e não tem que se preocupar tanto com problemas de compatibilidade, etc.
A única razão pela qual você realmente deseja atualizar para x64 é utilizar mais de 3 GB de RAM em seu sistema.