Acontece que usar rsync ou dump para copiar a partição / boot estava causando o problema. Com base na resposta de erick acima, inicializei um CD ao vivo no modo de recuperação e executei os seguintes comandos dd.
dd if=/dev/sda of=mbrbackup bs=512 count=1
dd if=mbrbackup of=/dev/sdb bs=446 count=1
dd if=/dev/sda1 of=/dev/sdb1
Eu corri os dois primeiros dd's novamente apenas para ter certeza que tudo foi copiado corretamente e não corrompido com todos os testes que eu tenho feito. Então eu corri o terceiro dd para copiar a partição de boot do meu disco antigo para o meu novo. Depois disso eu desliguei, peguei meu disco antigo e inicializei sem problemas no meu CentOS.
Deve ter havido algum problema causado pelo uso do dump em uma unidade montada que fez com que a cópia não funcionasse corretamente. Independentemente disso, dd fez o truque. Obrigado pela sua ajuda a todos.