O problema real era uma placa de vídeo no slot x16 principal. A maioria dos MBs neste caso dá x16 para a placa de vídeo deixando apenas x4 para o segundo slot. É possível que seja um problema do MB, encontrei algumas referências em que as pessoas tiveram problemas ao instalar o RAID no segundo PCIex16, mesmo sem placa de vídeo.
A solução era trocar a placa de vídeo e o controlador RAID, então agora ele é forçado a ser x8 + x8. O MegaRAID inicializa conforme esperado. Pode haver 1-4% de queda no desempenho do vídeo, o que é OK :)