Isso realmente depende de você fazer um pacote (por exemplo, .rpm no RH, .deb no debian) ou apenas confiar em 'make install' ou similar.
Bibliotecas pertencem a / lib ou / usr / lib para pacotes, ou / usr / local / lib para coisas compiladas localmente.
Dados compartilhados, como arquivos XML, podem estar em / usr / local / share ou / var / lib
Minha recomendação é instalar pacotes para as bibliotecas que você precisa - se elas são bibliotecas de código aberto, elas podem já estar empacotadas para sua (s) distro (s). Se eles são seu próprio código, empacote-os para que eles possam ser facilmente instalados (e desinstalados) em qualquer sistema de destino. O esforço e o tempo investidos em aprender a usar o sistema de embalagem da sua distro serão recompensados muitas vezes.