Tem certeza de que os aplicativos ainda não estão sendo usados? Se você verificar a saída de ldconfig -v , qual biblioteca OpenSSL será mostrada primeiro na saída?
Por padrão, sistemas baseados em Debian (e tenho certeza que a maioria dos outros sistemas Linux que seguem o FHS) pesquisam /usr/local/lib para bibliotecas antes de pesquisar /usr/lib . Isso significa que quaisquer aplicativos que usem o OpenSSL que você iniciou desde a instalação de sua própria versão customizada devem estar sendo usados antes da versão em /usr/lib .
Você pode confirmar isso usando ldd em um binário vinculado ao OpenSSL. Por exemplo:
$ ldd /usr/sbin/nginx
...
libssl.so.1.1 => /usr/lib/x86_64-linux-gnu/libssl.so.1.1 (0x00007fd50f80b000)
...
Observe o caminho de libssl - essa é a versão que ele usará, mesmo que haja várias cópias no sistema.
Se a sua versão personalizada do OpenSSL estiver em um diretório abaixo de /usr/local/lib (por exemplo, /usr/local/lib/ssl ) e você perceber que ela não está sendo encontrada por ld , você poderá adicionar esse diretório a um novo arquivo em /etc/ld.so.conf.d e execute novamente ldconfig (certifique-se de usar a opção -v para exibir os nomes de todas as bibliotecas nos caminhos de pesquisa definidos).