Depois de algumas brincadeiras, descobri que preciso do atributo -O
antes de colorspace=gray
e também -o
para o arquivo de saída como este
$ mutool convert -O colorspace=gray -o output.pdf input.pdf
seria bom se os desenvolvedores adicionassem (necessário) aos itens necessários na documentação, como isto talvez
-o - output file name (required)