Você colocou o arquivo em /var/www/html/
? É aí que os arquivos HTML vão por padrão.
Você pode executar apache2ctl -S
para obter alguma saída da configuração do Apache e grep -r DocumentRoot /etc/apache2/
para descobrir de onde todos os arquivos são atendidos.