NÃO TENTE ELIMINAR OS CERTIFICADOS!
Você causará mais problemas do que "consertar" se tiver sucesso. HTTPS vai quebrar por um. Eu ficaria surpreso se o RemoteApp funcionasse. O problema não é causado por certificados, é porque você está usando um certificado auto-assinado. Os certificados são destinados a verificar essencialmente a identidade (entre outras coisas, mas serei breve). Seu sistema atualmente não tem como provar sua identidade através de uma fonte confiável, por isso gera seu próprio certificado auto-assinado.
O que você pode fazer é adicionar o certificado autoassinado às máquinas com as quais está trabalhando. Dê uma olhada em este artigo do TechNet . Você também pode fazer isso via GPO .