Você precisa instalar o GRUB no MBR de ambas as unidades, e você precisa fazer isso de forma que o GRUB considere que cada disco seja o primeiro disco do sistema.
O GRUB usa sua própria enumeração para discos, que é abstraída do que o kernel do Linux apresenta. Você pode mudar qual dispositivo ele acha que é o primeiro disco (hd0), usando uma linha de "dispositivo" no shell do grub, da seguinte forma:
device (hd0) /dev/sdb
Isto diz ao grub que, para todos os comandos subseqüentes, trate / dev / sdb como o disco hd0. A partir daqui, você pode concluir a instalação manualmente:
device (hd0) /dev/sdb
root (hd0,0)
setup (hd0)
Isso configura o GRUB na primeira partição do disco que ele considera hd0, que você acabou de definir como / dev / sdb.
Eu faço o mesmo para / dev / sda e / dev / sdb, só para ter certeza.
Editado para adicionar: sempre encontrei o Wiki do Gentoo útil, até que eu fiz isso com freqüência suficiente para cometer a memória.