Algo me diz que isso tem a ver com o fato de o 7 / Vista usar um novo modelo de driver, enquanto o XP usou o antigo modelo de driver. Como a placa ATI é relativamente nova, estou curioso para saber qual é o modelo da Matrox. As placas PCI são antigas e o suporte para o Vista / 7 é geralmente malfeito, já que elas não são comuns.
editar
Eu não consegui encontrar esse cartão no site da Matrox, mas isso confirma minha suspeita. Como o cartão funciona no XP, mas não no 7, é claramente um problema de driver. O Vista / 7 usa um novo modelo de driver chamado WDDM. O XP usou o modelo de driver mais antigo chamado XDDM. Os dois são incompatíveis entre si e não pode ser executado simultaneamente.
O que te deixa uma outra opção para obter suporte a vários monitores. Download de drivers XDDM para o Radeon, pois é improvável que você encontre drivers WDDM atualizados para o Matrox. Mover a Radeon para drivers mais antigos resolve o problema permitindo que você execute ambos os drivers simultaneamente. A desvantagem mais notável é que você perderá o suporte do Aero. Os drivers do XDDM são inerentemente menos estáveis do que os drivers mais recentes do WDDM e alguns programas podem travar ou a tela azul em você, porque eles se comportam mal.
Além disso, você recebe seus multimonitores.