Sim, está definido. Mod_Rewrite só funciona em pedidos recebidos, antes do Apache ter realmente procurado pelo recurso. ErrorDocument funciona no nível de formação da resposta (basicamente o último passo).
Uma versão ligeiramente simplificada de como o Apache trabalharia neste caso:
- Solicitação de recebimento
- Modify Request (mod_rewrite e possivelmente outros)
- Obter recursos especificados
- Enviar resposta (que seria ErrorDocument se o recurso não foi encontrado)