Isso é subjetivo, pois depende de quais aplicativos você usa e do que acha importante.
Para mim, eu faço backup .gitconfig .subversion / .ssh / .my.cnf .face .thunderbird / .liferea /
Quantos desses você tem? Seriam importantes para você?
Aqui está uma boa maneira de descobrir :
Configure um novo usuário, faça o logout como aquele novo usuário, então copie todos os arquivos e diretórios do seu diretório pessoal real que você precisa para colocar o novo usuário em um estado de funcionamento.
Então, isso é o que você precisa fazer backup.