A configuração principal do apache acontece com o apache2.conf. Se você pensou que o arquivo de configuração em torno da linha 207 você vai perceber que inclui o httpd.conf.
Dessa forma, você pode fazer suas configurações personalizadas no httd.conf sem se perder no apache2.conf e manter suas alterações individuais em seu arquivo individual.
Não importa onde você escreve suas configurações, pois ambos os arquivos estão sendo usados.
Para ter certeza de que funciona sudo /etc/init.d/apache2 restart
, isso reinicia o servidor Apache.