O PNG reproduz a imagem original com exatidão. O JPEG reduz a qualidade de uma maneira que, teoricamente, você não deve notar em condições normais (como quando não está ampliando).
O PNG geralmente é recomendado para capturas de tela, pois ainda é bastante comprido, a menos que a captura de tela contenha imagens fotográficas ou complexas. JPEG pode ser usado se você estiver preocupado com o tamanho do arquivo.