Não há como saber qual pode ser o problema subjacente apenas dessa mensagem. Tente rastrear o processo e veja o que acontece:
strace -f ./h_affine.ln -haraff -i img1.ppm -o img1.haraff -thres 1000
Capture a saída, procure por "exec" e veja se há alguma pista sobre qual era o problema. Basicamente, strace
apenas lista todas as chamadas do kernel que um programa usa enquanto é executado. Isso é muito útil porque todas as coisas que você imagina que um programa está fazendo (mexendo com dados, etc.) são apenas detalhes internos - strace
captura tudo o que realmente faz .