Foi o erro mais ridículo. Eu estava prestes a ir em frente e excluir essa pergunta, mas achei que poderia ajudar outras pessoas que cometem erros bobos como eu.
Eu reiniciei o servidor como service apache2 restart
.
O que eu deveria ter feito é sudo service apache2 restart
.
Eu sei!