O problema é que o RAID de software apenas replica as partições, não o MBR, portanto, se você reinstalar o grub, será necessário instalá-lo nas duas unidades. Você também precisa ter certeza de que, quando você instalar o grub na segunda unidade, você o configure como se fosse a primeira unidade (para que, se a primeira unidade falhar, você possa desconectá-la e a segunda unidade seja inicializada).
# grub
grub> device (hd0) /dev/sda
grub> root (hd0,0)
grub> setup (hd0)
grub> device (hd0) /dev/sdb
grub> root (hd0,0)
grub> setup (hd0)
grub> quit
Observe que cada unidade é configurada como se fosse a primeira unidade (hd0).