Você colocou o arquivo em /var/www/html/ ? É aí que os arquivos HTML vão por padrão.
Você pode executar apache2ctl -S para obter alguma saída da configuração do Apache e grep -r DocumentRoot /etc/apache2/ para descobrir de onde todos os arquivos são atendidos.