As etapas normais para reduzir um sistema de arquivos (a partir do final) são desfragmentar, reduzir o próprio sistema de arquivos e, em seguida, reduzir a partição. Alguns editores de partições (gparted) farão o "shrink the filesystem" para você se o fs for do tipo certo (ext?) E o programa resize2fs estiver presente (é por padrão)). No seu caso, você provavelmente terá que executar o fatresize sozinho, mas primeiro você terá que instalá-lo.
sudo apt-get update
sudo apt-get install fatresize
Em seguida, verifique o sistema de arquivos recém-redimensionado e, em seguida, reduza a partição.