yaffs / yaffs2 ainda não é suportado no kernel linux mainline, então você mesmo precisará compilá-lo.
Existem instruções detalhadas aqui: link
Você provavelmente será capaz de montar um sistema de arquivos yaffs / yaffs2, mas não tenho certeza se será capaz de instalá-lo ou inicializá-lo com o grub.