A restrição da App Store está aí apenas para evitar que você perca dinheiro comprando algo que não pode usar. Eu presumo que você tenha o Mac Pro original "Quad Core" 2.66 (duas CPUs dual-core = 4 núcleos no total)? Se assim for, a limitação real é que o seu Mac tem firmware EFI de 32 bits, e a Apple não suporta o carregamento de um kernel de 64 bits a partir do firmware de 32 bits, e o kernel da Mountain Lion é de apenas 64 bits. (Isso e eu acho que eles não incluíram os drivers de alguns dos hardwares incorporados nesse modelo).
Se você conseguiu instalar o Mountain Lion no seu Mac Pro, ele não conseguirá inicializar; Tenho certeza que você acabou de obter um pequeno círculo com um corte através dele. Para evitar isso, a App Store se recusará a vendê-lo para você, e mesmo se você baixá-lo em outro Mac, o instalador se recusará a instalá-lo.