O erro vem do fato de que você está perdendo o carregador para o binário, /lib/ld-linux.so.2
(conforme indicado por file
). Uma vez instalado, você poderá executar ldd arm-none-eabi-gcc
para ver o que é necessário além disso.
O executável está em um formato válido, que o kernel entende, então você não obtém um "erro de formato Exec", mas quando o kernel tenta executá-lo, ele não consegue encontrar um arquivo necessário - o carregador - , daí "Nenhum arquivo ou diretório".
Como você descobriu, uma solução rápida para executá-lo na máquina de 64 bits é executar:
sudo apt-get install lib32z1 lib32ncurses5
embora uma solução melhor a longo prazo é usar pacotes :i386
multiarch apropriados (o que deve ser o que é puxado por lib32
packages).