Supondo que seus dados estejam em Colunas A:C , selecione todas as colunas A:C use como fórmula condicional
=AND(NOT(ISBLANK(A1)),COUNTIFS($A:$C,A1)<=3)
Se o valor de seu critério estiver em uma célula, substitua o 3 pelo endereço da célula, por exemplo, $E$1
Certifique-se de usar o $ como mostrado