Você não pode construir na própria máquina. Isso significa que você precisa copiar binários de outro lugar. E esses binários devem ser apropriados para o seu dispositivo incorporado - um dispositivo ARM não executará binários x86 ou MIPS.
Então, a primeira pergunta é qual dispositivo você tem. uname -a
deve ajudar. Se você pode encontrar binários para essa arquitetura, bom. Copie-os, execute ldd
para descobrir de quais bibliotecas ele precisa, instale-os também e você é bom.
Se você não puder encontrar binários, precisará criá-los, mas em outra máquina. Isso é chamado de compilação cruzada. Você pode fazer isso em um PC comum, de preferência um Linux. Mas você precisa configurar um toolchain de compilador cruzado. Há um pouco de documentação sobre isso, mas perguntas detalhadas que você deve fazer no StackOverflow.