Eu resolvi o problema aqui e funcionou bem: link
Resumidamente:
1.Eu instalei o Armbian que ele tem suporte a fbtft por padrão em seu kernel.
2. Descobri que o número de pinos do GPIO em nanopi é diferente do pi de framboesa e os alterei
3. Eu segui este tutorial e funcionou bem para mim: link