Eu não tenho conhecimento de nenhuma maneira de converter um sistema de arquivos de forma não destrutiva. isso não significa que é impossível, mas eu colocaria em desacordo muito baixo.
você pode, por exemplo, converter de ext2 para ext3 sem limpar o disco e de ext3 para ext4 .
mas para passar de algo como jfs para ext4 parece altamente improvável, sem primeiro copiar seus arquivos /home para outra partição ou disco rígido externo.
mesmo assim, você desejaria criar um novo usuário em seu sistema, com um diretório home em algum lugar como /tmp/tempuser ou copiar suas configurações para seu usuário, geralmente os arquivos 'dot' (arquivos começando com . ) em o seu diretório home para um novo local em /home e atualizando /etc/passwd para usar o novo diretório inicial, para que você possa fazer login como usuário normal enquanto executa esta atualização.
faça o backup de seus arquivos, desmonte /home e formate-o usando /sbin/mkfs.ext4 ou qualquer ferramenta que você pretenda usar. monte a partição nova em /home e copie seus arquivos de volta.
também, eu recomendaria algo 'inteligente' como rsync para copiar seus arquivos, para garantir que você preserve suas permissões e todo esse jazz.