Acabei de ter o mesmo problema.
Eu tinha uma cadeia de conexão definida para o nó do servidor (no IIS) e, em seguida, clicava em Cadeias de Conexão em um nó do aplicativo no site padrão. Eu alterei isso, então decidi que as alterações não eram necessárias, então deletei a string de conexão do nó do aplicativo.
Foi o que aconteceu. A cadeia de conexão foi realmente definida para o servidor e herdada pelo nó do aplicativo, portanto, na verdade, eu não a estava excluindo do nó do aplicativo, o que eu estava realmente dizendo era: "Não quero que esse aplicativo herde esta cadeia de conexão ".
Eu o deletei, portanto talvez não tenha a configuração correta, mas o IIS implementou isso adicionando algo como o seguinte no web.config do aplicativo:
<connectionstrings>
<remove name="connstringname"... />
</connectionstrings>
Assim, a correção é editar o web.config e remover essa entrada, o aplicativo poderá herdar a string de conexão do nó superior.