Para os nós appSettings e connectionStrings no web.config, você pode movê-los para arquivos separados fora do web.config.
No seu web.config você teria:
<appSettings configSource="appsettings.config"></appSettings>
e, em seguida, um novo arquivo appsettings.config:
<?xml version="1.0"?>
<appSettings>
<add key="foo" value="bar" />
</appSettings>
Depois, você precisa garantir que não implemente esses novos arquivos e os mantenha diferentes no servidor de produção e no seu ambiente de desenvolvimento.
Todos os meus arquivos web.config são excluídos do meu processo de implantação, se eu precisar alterá-los, faço isso no palco ou nos sites de produção.