Isso soa como se você tivesse uma unidade fisicamente defeituosa ou um CD com defeito. O instalador usa a libparted para fazer seu trabalho de formatação / particionamento, portanto, se isso tiver uma corrupção, poderá fazer com que o disco falhe ao particionar tanto no gparted quanto no instalador.
Vamos precisar de mais registros para ver mais do que está acontecendo. Por favor, informe os erros do gparted e, se possível, execute a partir da linha de comando.
Ao instalar no FAT32, o problema é que o Linux requer um sistema de arquivos moderno com links, permissões de arquivo, etc. Sistemas de arquivos do Windows como FAT e NTFS nunca tiveram esses recursos e por isso não é possível instalar o Ubuntu neles. Outros sistemas de arquivos, como btfs, ext2, xfs, etc., no entanto, são possíveis de usar.