A linha pontilhada nesse caso não é uma seleção, mas a borda da camada. As camadas podem ter tamanhos diferentes dos da tela (menores ou maiores!). Desenhar a borda da camada externa não a expandirá, mas cortará o desenho.
Para ajustar o tamanho da camada ao tamanho da tela, clique com o botão direito do mouse nela e clique em Camada para o tamanho da imagem .