A maneira mais fácil de executar ou testar um novo sistema operacional, seja ele caseiro ou não, sem excluir o sistema operacional atual seria virtualizá-lo. Você pode usar ferramentas gratuitas e comerciais para isso. Os mais conhecidos são o VirtualBox (gratuito), o VMware Player (gratuito), o VMware Workstation (comercial), o Windows Virtual PC e assim por diante. Você pode encontrar muito mais em Wikipedia Categoria: Software de virtualização
Basicamente, você cria uma imagem de disco rígido virtual que se comporta como um novo disco rígido vazio. Quando você instala o sistema operacional, essa imagem de disco está totalmente isolada de seu sistema operacional principal. Além de testar e inicializar um sistema operacional, você também pode testar vários programas em um ambiente isolado. Há muitas possibilidades, então eu recomendo que você explore essa área.