Você precisa usar 'Aplicativos' em vez de 'Diretórios Virtuais' para seus sites asp.net.
No Gerenciador do IIS, você pode clicar com o botão direito do mouse em seu diretório virtual e "Converter em aplicativo".
Os Diretórios Virtuais são apenas indicadores para outros locais dentro do mesmo aplicativo, neste caso, o aplicativo raiz.
Aplicativos são sua própria unidade de execução, ou domínios de aplicativos em dot.NET, para usar o til (~) e outros recursos do ASP.net você precisa usar um aplicativo.