Quando você seleciona "aplicar alterações a esta pasta, subpasta e arquivos", o Windows criptografará todo o conteúdo da pasta, incluindo todos os arquivos e subpastas. Todos os novos arquivos e pastas adicionados nessa pasta também serão criptografados. De um modo geral, esta é a opção que a maioria das pessoas escolherá.
Quando você seleciona "aplicar alterações a esta pasta", somente o conteúdo novo da pasta será criptografado. Arquivos e pastas existentes não serão criptografados. De um modo geral, isso não seria uma opção que as pessoas usariam, mas há alguns casos em que isso é útil.
FYI: Isso também se aplica ao Windows incorporado na compactação de pastas. As opções fazem mais sentido quando se trata de compactar o conteúdo das pastas; comprimir tudo ou apenas comprimir novos itens.