você pode excluir os arquivos do instalador.
no entanto, se a instalação precisar de reparos, talvez seja necessário baixar / executar o pacote do instalador original novamente.
para ter certeza, mova os arquivos para outro local primeiro e veja se o Acrobat está funcionando se os arquivos não estão no lugar, se isso acontecer, mova-os bem.
eu costumo manter esses arquivos (por exemplo, fontes de instalação do MS Office, já que o Office tem a tendência de 'quebrar' de vez em quando) em um disco rígido externo e, se necessário, posso copiá-los.