Sim, esta é uma questão abrangente. Eu não sei exatamente o que você quer, mas aqui vai.
Você não precisa fazer uma limpeza geral. Você não faz ls -A
em $ HOME e se importa com o que está lá. Esse é o objetivo de torná-los (geralmente) invisíveis em primeiro lugar. O programa lê (e grava) seus arquivos rc conforme necessário. E você não vai bisbilhotar a menos que esteja procurando algo específico. Seu diretório $ HOME não é desastroso - você está usando o critério errado para julgá-lo. Tem arquivos que se acumularam com base no seu padrão de uso específico.
Agora, se você tiver problemas específicos, poderá fazer perguntas específicas. O que significa "não conectar"? O que 'duplicatas' você tem? O que você quer realizar com seus arquivos de inicialização do shell? Como você deseja que o VIM pareça e aja?
OBSERVAÇÃO: Embora eu sofra com as balas e flechas de uma fortuna escandalosa dizendo isso, acho que seu tempo é melhor gasto sem usar o vim como seu editor principal. É um ótimo editor, mas há outros grandes editores disponíveis. Procure por TextWrangler. O vim foi escrito para combinar com o vi, que foi escrito nos anos 80 e tinha 80 restrições de poder de processamento. Se você está começando a partir de uma página limpa, então você pode escolher um editor não tão restrito. Vale a pena conhecer um pouco, porque quando você bate em outro sistema UNIX ou Linux.
A maioria dos arquivos rc possui páginas man, seja no Mac ou online. Não existe um livro "RC files in the terminal" porque existe uma página de manual para .vimrc, que é separada da página de manual para .bashrc, que é separada da página de manual para .tmuxrc, etc.
Dito isto, você tem um sistema UNIX com um utilitário de backup muito simples, o Time Machine. Faça um monte de snaps do Time Machine. Excluir arquivos, se você acha que acabou com eles. Restaure de backup se você achar que está faltando alguma coisa.