Eu tenho uma configuração semelhante. A raiz é manipulada pelo mod_python que está executando uma instância do trac e o / docs é tratado pelo dokuwiki que usa o php.
A única maneira de fazer isso funcionar foi usar uma diretiva LocationMatch
que tive que negar porque o trac usa um número de pseudo-diretórios:
<LocationMatch "^/(?!docs)">
SetHandler mod_python
</LocationMatch>