Seu Mac mini é um modelo de 2007 que se expandiu no OS X Lion 10.7.5. Não suporta Mavericks (10.9.x) nem mesmo Mountain Lion (10.8.x).
Os discos do instalador do OS X são baseados no mesmo sistema operacional que eles instalam. Ou seja, quando você inicializa a partir de um disco de instalação do Mavericks, você está inicializando uma versão simplificada do Mavericks. É por isso que o seu Mac mini não consegue inicializar a partir desse disco de instalação.