Antes de mais nada, elimine a formatação do seu código e apenas especifique um valor. Deixe a formatação para o Excel.
Então, você também quer:
=IF(COUNTIF(G5:W13,"10"),"","10")
ou possivelmente:
=IF(COUNTIF(G5:W13,"10"),"",10)
Depois disso, use o formato de célula Moeda e ajuste suas opções conforme necessário (por exemplo, defina um valor apropriado para Casas decimais ):