Eu não acho que isso é possível com o ImageMagick, pois não produz gráficos vetoriais verdadeiros. Do site ImageMagick ( link ):
Em outras palavras, qualquer saída do IM nunca será um formato vetorial verdadeiro. Embora ele possa converter seu formato de rasterização interno em um arquivo de formato vetorial, o resultado é apenas um invólucro de imagem vetorial superficial em torno de uma imagem em formato raster. E, a menos que a imagem raster seja definida corretamente (na resolução correta) para o dispositivo de saída, o resultado não será particularmente bom. Infelizmente novos usuários para mensagens instantâneas não sabem nada sobre isso. Eles veem o IM como um conversor que pode converter PDF para Postscript, produzindo imagens com efeitos de aliasing 'blocky', cores 'desbotadas' ou imagens borradas que simplesmente não parecem boas, no dispositivo de saída pretendido.
Se você deseja investigar a 'vetorização' de toda a saída um dos exemplos no site ImageMagick sugere usando o software da Abobe ou AutoTrace (que é de código aberto).