Resposta um pouco à mão ...
O BIOS analisa as unidades (disquetes, discos rígidos, pen drives, etc.) e procura um Master Boot Record. O MBR é geralmente os primeiros 512 bytes de um disco e contém a tabela de partições para a unidade e parte do GRUB (o Grand Unified Boot Loader).
Este primeiro estágio do GRUB é então executado e finalmente entregue a outro estágio do GRUB fora do pequeno MBR de 512 bytes.
Isso, então, executa o kernel, que por sua vez executa o init, o que leva a um bom sistema Linux.
Tenho certeza de que há alguns detalhes, mas esse é o básico.