Eu usaria: gnuplot ou um programa de plotagem gráfica mais simples do centro de software, então eu usaria o inkscape para fazer o preenchimento e detalhes. Eu não acho que há uma maneira mais fácil de 'desenhar matemática', desenho vetorial e matemática não vai bem.
O gnuplot tem uma curva de aprendizado, mas existem alguns tutoriais curtos e concisos, e você pode gerar os gráficos como desenhos de vetores (eps) etc ... ou alta resolução. o que melhor atende às suas necessidades.