Parece que você precisa instalar o grub no disco de 4TB, ou configurar em seu BIOS para inicializar o disco de 2TB primeiro, já que o bootloader está instalado lá. Seu disco de 2TB provavelmente não é mais sda desde que você o substituiu, e não o primeiro disco que está sendo verificado para um gerenciador de inicialização.
Para instalar o grub:
- Inicialize a partir de um ubuntu live usb
- Monte suas unidades no diretório / mnt
- Chroot nesse diretório com
chroot /mnt
- Em seguida, execute
grub install /dev/sda
para instalar o grub.