No meu conhecimento, você não pode evitar as diferenças de arredondamento, no entanto, você pode ajustar sua formatação condicional para aceitar alguns slop. Selecione "Usar fórmula para determinar quais células devem ser formatadas" e tente algo assim:
=IF(ABS(A1)<0.1,TRUE,FALSE)