Primeiramente, executo o chkdsk na partição que você está tentando encolher e, em seguida, tento usar a ferramenta de gerenciamento de disco novamente. Se isso não funcionar, tente inicializar GParted e diminuir a partição a partir dali.
Editar: se você acabar usando o CD ao vivo do GParted, não encolha sua partição do Windows pela frente. A frente da partição (à esquerda no GParted) deve permanecer intocada para que as janelas continuem a inicializar corretamente.