O valor padrão dos parâmetros de tempo de execução do kernel é selecionado / definido no tempo de compilação do kernel (módulo). sysctl é usado para ler esses parâmetros e permite modificar / substituir esses parâmetros na inicialização do sistema e no tempo de execução.
Pessoalmente, nunca usei nenhum outro arquivo além de /etc/sysctl.conf e usaria sysctl -p para verificar a sintaxe dos novos parâmetros que defini.
(Exceto quando eu não uso sysctl e manipulo diretamente os parâmetros do kernel, por exemplo, com o tradicional echo 1 > /proc/sys/net/ipv4/ip_forward )