Você precisa fazer uma compilação cruzada de todas as dependências: cada pedaço de código vinculado ao binário final (seja estaticamente ou dinamicamente) precisa ser construído para a plataforma de destino.
Dependendo da plataforma (e da distribuição) em que você está construindo e da plataforma de destino, você pode descobrir que suas dependências cruzadas já estão disponíveis em sua distribuição.