As entradas em /etc/ld.so.conf são pesquisadas em ordem. Portanto, a ordem é importante.
Isso só importa se o mesmo nome da biblioteca (precisamente falando, o mesmo SONAME) estiver presente em vários diretórios. Se houver diretórios que você tem certeza absoluta de que nunca conterá a mesma biblioteca, você pode colocá-los na ordem que preferir.
Em particular, isso significa que os diretórios em /usr/local devem vir antes dos diretórios fora de /usr/local , uma vez que o ponto desses diretórios deve ter prioridade sobre os arquivos de sistema padrão. Entre os diretórios gerenciados pela distribuição, isso provavelmente não importa.