Você pode usar o comando ssconvert .
ssconvert example.csv example.xls
Para fazer isso com vários arquivos, você precisa fazer um loop bash sobre arquivos csv e fazer o trabalho. Aqui uma dica:
for i in *.csv; do ssconvert "$i" "${i%.*}".xls; done
EDITAR:
Para converter e mesclar em um único arquivo xls, você ainda pode usar ssconvert.
ssconvert --merge-to=output.xls file1.csv file2.csv ....
ou facilmente
ssconvert --merge-to=output.xls *.csv