Um rápido google me levou para esta postagem , o usuário afirmou que usando lucid (eu acho que posso supor que você está usando o Ubuntu / Debian) eles precisavam instalar o motif3.
Se você pode instalar o motif3 (possivelmente lib3motif) através do seu gerenciador de pacotes, isso pode resolver o seu problema, caso contrário você pode tentar:
dpkg -S libXm.so.3
Isso deve lhe dizer qual pacote em seus repositórios fornecerá este arquivo de biblioteca.
Se você tiver o arquivo instalado e ainda não conseguir encontrá-lo, provavelmente é porque o arquivo está em algum lugar que não está incluído no caminho da biblioteca, dê uma olhada neste post Eu acho que pode ajudar:
export LD_LIBRARY_PATH=/usr/lib/x86_64-linux-gnu/:$LD_LIBRARY_PATH
Se isso não funcionar, verifique se você está executando a versão de 64 bits do sistema operacional, se você estiver em 32 bits, procure a versão de 32 bits do pacote que inclui o arquivo de biblioteca