Você deve configurar o Apache Virtualhosts para fazer o trabalho. RewriteMod não é a solução apropriada para este caso e .htaccess
também não é.
No seu httpd.conf ou equivalente, use as seguintes linhas de acordo com as suas necessidades. Edite-o no seu domínio e site.
NameVirtualHost *:80
<VirtualHost *:80>
ServerName www.example.com example.com
Redirect permanent / https://example.com/
</VirtualHost>
<VirtualHost _default_:443>
ServerName example.com
DocumentRoot /usr/local/www/apache2/htdocs
SSLEngine On
** Additional configurations here **
</VirtualHost>
Espero que isso clarifique o procedimento.