Você parece esquecer de desmontar o pen drive antes de desconectá-lo. Os dados estão sendo gravados na hora em que você está desconectando fisicamente a unidade; isso resulta em corrupção.
No Nautilus, localize a unidade no painel esquerdo, clique no botão de ejeção próximo ao seu nome. Como alternativa, encontre-o na área de trabalho, clique com o botão direito do mouse e escolha "Ejetar".
Isso é o mesmo que "Desconexão segura" no Windows.