Fora da raiz do documento. Talvez /etc/ssl/www/mykey.ext.
sudo mkdir -p /etc/ssl/www
sudo chown root:www-data /etc/ssl/www
sudo chmod 0750 /etc/ssl/www
sudo cp mykey.ext /etc/ssl/www/
sudo chown root:www-data /etc/ssl/www/mykey.ext
sudo chmod 0640 /etc/ssl/www/mykey.ext
Agora só está disponível para root, sudoers e www-data. No entanto, se o Apache estiver configurado com o usuário dirs (~ / public_html), qualquer usuário poderá pedir ao Apache para lê-lo. Ou qualquer usuário que possa criar documentos que serão lidos pelo servidor da Web poderá lê-lo.
Uma solução melhor é ler a chave de um banco de dados ou como uma variável dentro do script. No método de banco de dados, proteja o aplicativo da Web da injeção SQL.