Mais de 3 cores no OpenOffice exigem uma escrita inteligente de fórmulas. Os detalhes estão neste tópico do fórum do OpenOffice: Re: É possível contar por cor?
O LibreOffice suporta mais de 3 cores através da GUI de formatação condicional, então mudar para o LibreOffice também é uma opção.