Você precisará desmontar o disco antes de formatá-lo. Você pode fazer isso clicando no ícone ejetar ao lado da unidade no Nautilus:
Você pode clicar com o botão direito do mouse na unidade para formatá-lo. Se você ainda tiver problemas, tente usar uma ferramenta de particionamento mais avançada como o GParted que mostrará por que as coisas não estão funcionando como você espera.