Depende da distribuição que você instalou. Desde que você usou o yum, eu acho que é CentOS / RedHat / Fedora ou similar. Tente service httpd start ou algo parecido. chkconfig httpd on deve ter iniciado automaticamente após as reinicializações.