Sim, isso funcionaria, embora eu ache que não há espaço suficiente para uma GUI, a menos que você use algo como o Lubuntu, que pode ou não funcionar.
A troca seria uma partição inteira sem formato; o tipo de partição seria simplesmente definido como swap em vez de, digamos, ext4 .
Você não diz ao GRUB sobre a partição swap, já que o GRUB só se preocupa com as primeiras partes da inicialização do sistema operacional. Em vez disso, você diz ao Linux editando /etc/fstab para dizer qual partição usar (veja o /etc/fstab de seu próprio sistema para um exemplo; ele terá uma linha mencionando swap ). Use sudo blkid após inicializar o arquivo para obter o UUID apropriado para a partição swap da sua unidade USB.