Instale seu aplicativo fora do DocumentRoot e use a diretiva Alias para disponibilizá-lo dentro das entradas específicas do VirtualHost que você configurou para subdomínios.
Alias /app /var/www/apps/appname
Você pode usar o SERVER_NAME para determinar qual host virtual está sendo acessado se você precisar fazer algo específico por subdomínio.