O Mathematica permite escrever equações matemáticas em uma interface semi wysiwyg e, claro, fornece extensas capacidades de resolução matemática. Também fornece alguma compatibilidade com o LaTeX. Não é grátis, mas há uma versão com preços razoáveis para uso doméstico não comercial e versões de estudantes ainda mais baratas.
Se você está disposto a considerar o LaTeX, o LyX fornece uma interface amigável para a criação de seus documentos. Mas IMHO, é apenas uma porta de entrada para aprender a sintaxe "correta" do LaTeX ... mais cedo ou mais tarde, você vai se cansar de usar o mouse e vai querer digitar equações muito mais rápido.