Use find para listar os diretórios:
export MATLABPATH="$(find RECURSIVEFOLDER -type d -printf %p:)$MATLABPATH"
O -printf %p: faz com que cada diretório seja impresso com um : , portanto, a saída do comando find sempre terminará com : . Desde que $MATLABPATH não estivesse vazio antes de executar este comando, isso funcionará bem.
Note que o acima irá adicionar RECURSIVEFOLDER ao caminho, assim como seus filhos recursivos. Se você não quisesse, adicione -mindepth 1 ao comando find , se o comando find implementasse -mindepth ou substituísse RECURSIVEFOLDER por RECURSIVEFOLDER/* .