Consulte esta pergunta do StackOverflow: " Crie subdomínios na mosca com .htaccess "
Veja as respostas sobre a questão, especificamente este link que tem exemplos que devem funcionar na sua situação.
Há alguns problemas que a postagem do Webmasterworld aborda, incluindo recursão de subdomínio, pois o .htaccess também afeta seus subdiretórios em sua principal raiz www.
O código final é assim:
RewriteBase /
#### URL Rewrite Handler for Subdomains (by Randall Krause) ####
RewriteCond %{ENV:REDIRECT_SUBDOMAIN} =""
RewriteCond %{HTTP_HOST} ^([a-z0-9][-a-z0-9]+)\.mydomain\.org\.?(:80)?$ [NC]
RewriteCond %{DOCUMENT_ROOT}/subdomains/%1 -d
RewriteRule ^(.*) subdomains/%1/$1 [E=SUBDOMAIN:%1,L]
RewriteRule ^ - [E=SUBDOMAIN:%{ENV:REDIRECT_SUBDOMAIN},L]
Se você quiser ver quais são os erros do código acima (o que está criando o erro 500), verifique seu error_log. Meu palpite é que isso está causando recursão.