Pergunta antiga, mas deixarei isso aqui, pois esse post foi um dos primeiros resultados da pesquisa.
Eu tive o mesmo problema ao tentar instalar o Distributed Scan Management (o FSRM é um pré-requisito). Parece que a instalação do FSRM falha porque precisa adicionar alguns grupos de segurança locais ao servidor, o que não é possível, já que é um RODC.
A 'solução' da Microsoft é apenas instalar o FSRM antes de promover o servidor para um RODC: link
Até onde eu sei, essa é a única maneira de fazer isso. Acabei rebaixando o RODC (preservando os metadados) e consegui instalar o FSRM com êxito. Em seguida, promovi o servidor de volta a um RODC usando a conta de computador existente. Coisas divertidas.