A maneira de instalar um arquivo * .tar.gz é primeiro descompactá-lo com tar -zxvf file.tar.gz
e depois executar o arquivo binário ou instalar com ./configure; make install
.
O Octave está no universo Ubuntu e pode ser instalado com synaptic ou apt-get. O nome do pacote é "oitava".