como mencionado acima, você pode usar Inkscape para produzir diagramas muito bons e vetoriais (isso é uma vantagem - você pode exportar todas as resoluções necessárias para print) - você pode até usar muitos cliparts SVG de domínio público de sites como o Clker.com e colocá-los juntos no Inkscape e construir o diagrama. Eu uso essa abordagem frequentemente para várias ilustrações e diagramas e, às vezes, também para "slides", que depois coloco em alguns vídeos. O Inkscape é gratuito e opensource e os cliparts de Domínio Público podem ser usados gratuitamente e também modificados livremente sem problemas com licença.
A segunda possibilidade é usar o LibreOffice Draw, que é um pouco mais simples, mas é mais focado em tais tarefas e capaz de criar fluxogramas etc Eu uso para cartazes de conferências etc. (mas agora crie cartazes também no Inkscape). Você também pode usar aqui os cliparts do Clker.com, mas você terá que baixá-los no formato PNG e você não poderá editá-los tanto quanto na edição de rasterização básica do Inkscape aqui.
O Libreoffice também é gratuito e opensource para que você possa experimentar as duas soluções e escolher aquela que é melhor para você. : -)