A maneira de instalar um arquivo * .tar.gz é primeiro descompactá-lo com tar -zxvf file.tar.gz e depois executar o arquivo binário ou instalar com ./configure; make install .
O Octave está no universo Ubuntu e pode ser instalado com synaptic ou apt-get. O nome do pacote é "oitava".