CHM é basicamente apenas "HTML compilado". Não tenho certeza se você poderia criar uma imagem da primeira página, mas dê uma olhada em Calibre que lhe permitirá converter o CHM para um PDF.
A partir do PDF, você poderá criar uma imagem a partir da primeira página via imagemagick:
$ convert "something.pdf[0]" cover.jpg