Se a imagem original estiver a 100% de zoom (para que cada pixel na tela represente exatamente um pixel da imagem original), então não haverá perda de qualidade.
Se a imagem estiver com zoom acima de 100%, haverá aliasing presente na captura de tela resultante, que está tecnicamente na imagem original, mas não é visível no mesmo grau no nível de zoom correto. 'Corrigindo' este aliasing com um filtro anti-aliasing tecnicamente não representará com precisão a região que você está extraindo (embora possa fazer um trabalho melhor que a imagem original se for principalmente linework ao invés de coisas como gradientes).
Se a imagem estiver com menos de 100% de zoom, você perderá a qualidade por causa do algoritmo de interpolação usado por qualquer software de visualização de imagens que esteja usando.
Todos os três casos presumem que você esteja usando um formato de codificação sem perdas (como PNG, GIF ou até mesmo um formato de imagem não compactado) para a imagem resultante. Se você usar qualquer forma de compactação de imagem com perdas (por exemplo, JPEG ou o novo codec HEIC), a qualidade será perdida, independentemente da escala da imagem original. Observe também que isso pressupõe que você esteja capturando a imagem digitalmente, e não com uma câmera apontada para a tela (que sempre reduz a qualidade da imagem, mesmo que você tenha uma boa câmera que economize sem perdas imagens).
Provavelmente, vale a pena notar que esse é um meio realmente ineficiente de extrair uma região específica de uma imagem existente. Você quase sempre precisará editar a captura de tela resultante para extrair a parte desejada, mas isso exige as mesmas técnicas que você usaria para extrair a região diretamente da imagem original. O processo em si é realmente trivial a qualquer editor de imagens decente como o Photoshop ou o GIMP, basta usar a ferramenta de seleção para delinear a região que você deseja extrair, cortar a imagem para a seleção enquanto redimensiona camadas e exportar o resultado sob um novo nome de arquivo.