Tente isto para o segundo comando:
sudo grub-install --boot-directory=/mnt/boot /dev/sda
E você tem certeza que seu Ubuntu está no sda5, eu suponho. Use
sudo fdisk -l
para ter certeza.
Eu também suponho que você esteja executando isso de um LiveCD.