Qual distro? Alguns sistemas terão um mecanismo para atualizar todo o sistema, incluindo todos os pacotes para aqueles compilados para 64 bits, mas geralmente isso é mais confuso do que seria desejado.
Essa pode ser uma boa chance de consolidar o software de seus clientes em um pacote fácil de usar que pode ser colocado em qualquer sistema em execução. Lançar uma nova instância limpa de 64 bits e trabalhar na coleta de todos os bits que são exclusivos para o seu cliente, talvez até mesmo escrever um script para "configurar" o sistema para ele. Este exercício também tornaria a migração para outras plataformas, expandindo a arquitetura, a configuração de sistemas de teste, etc., mais fácil de administrar.