Os arquivos TIFF podem conter dados JPEG, e o ImageMagick está tentando salvar sua imagem como um JPEG monocromático (dentro do TIFF), o que não é possível.
Adicione +compress
ou -compress lzw
no seu comando para forçar outro formato:
convert foo.jpg -flatten -monochrome +compress bar.tif
convert foo.jpg -flatten -monochrome -compress lzw bar.tif