Você não precisa formatar o espaço não alocado. Você pode fazer isso durante a instalação do Ubuntu.
Pelo que você mencionou, você já tem duas partições (Win, Recovery) e precisa de mais duas partições, a partição Linux e a partição swap. Para a partição swap, faça com que seja o dobro da sua RAM (é uma regra geral) e o resto vai para a partição Linux. Portanto, crie primeiro a partição de swap e aloque o que resta na partição do Linux.
Leia também no link para ajuda genérica do processo.