Um guia completo sobre como liberar o Oracle no GNU / Linux do ORA-01089 é aqui .
A ideia é basicamente fazer o login no Oracle como sysdba e emitir um comando de desligamento (o usuário oracle no OS é o padrão neste exemplo do link fornecido):
root# sudo su - oracle
oracle$ sqlplus
SQL*Plus: Release 10.2.0.1.0 - Production on Sun Feb 9 15:16:09 2014
Copyright (c) 1982, 2005, Oracle. All rights reserved.
Enter user-name: / as sysdba
Connected to:
Oracle Database 10g Express Edition Release 10.2.0.1.0 - Production
SQL> shutdown abort
ORACLE instance shut down.
Em uma única linha:
echo shutdown abort | sudo su - oracle -c "sqlplus / as sysdba"
Se isso não funcionar, experimente alguns dos feitiços no link e termine com:
/etc/init.d/oracle-xe stop
/etc/init.d/oracle-xe start