Ao reduzir o volume principal (ou particioná-lo), tente deixar o espaço livre com o formato UN. no windows deveria dizer algo como "espaço não alocado". (você pode fazer isso usando o gerenciamento de disco no Windows, basta clicar com o botão direito e pressionar delete volume
na partição livre que você deseja usar).
se isso não funcionar, ou se você já tiver feito isso, tente o contrário:
formate a partição como um NTFS.