Senhas para serviços do Windows são armazenadas no registro em:
HKEY_LOCAL_MACHINE\SECURITY\Policy\Secrets\_SC_<ServiceName>
Quando você configura um serviço do Windows para ser executado como uma conta diferente, o Gerenciador de Controle de Serviços usa a função LsaStorePrivateData
para armazenar a senha e a função LsaRetrievePrivateData
correspondente para recuperá-la.
Portanto, é algum tipo de criptografia reversível, mas, infelizmente, o algoritmo e a técnica de criptografia exatos não são documentados publicamente. E ajudar você a fazer engenharia reversa seria divertido, mas não é uma boa ideia para mim.