Bem, para problemas estocásticos você se sairá bem com o Octave (O apturl é na verdade para QtOctave que fornece uma ótima interface para o Octave ) e Scilab ^ 1 mais Gnuplot (são aplicativos de primeira classe), mas se você pesquisar no centro de software, provavelmente encontrará algo mais.
Se o seu problema incluir álgebra simbólica, você pode usar Maxima (ou wxMaxima se você precisar de uma GUI).
Eu atualmente acho que uma boa combinação de Maxima e Octave é basicamente imbatível.
^ 1: Se você precisar de algum cálculo de alta velocidade (mais uma vez, não sei exatamente o que você precisa), observe que SciLab pode exportar projeções de sua linguagem semelhante a matlab para C ou Fortran ...
Você pode instalá-los usando o centro de software, o console ou qualquer um dos links abaixo:
nota: O QtOctave não está mais sendo desenvolvido, mas você ainda pode baixá-lo através do software-center.