Primeiro você estava tentando instalar pacotes de 32 bits no Ubuntu de 64 bits. Isso não é necessário. Deixe a parte i386 do nome do pacote e use apenas octave-image .
Em segundo lugar, para poder usar a função rgb2gray , você precisa importar o pacote onde essa função está definida. O pacote é image conforme revelado como este tópico . Além disso, você precisa carregar o pacote usando o comando pkg load image primeiro. Verifique esta pergunta do Stackoverflow também.
Espero que isso ajude.