Como outros já disseram, não acho que isso seja possível com as funções do excel. Mesmo que seja, será lento em fazê-lo. Executar uma macro VBA será muito mais rápido. Eu escrevi uma amostra para ajudá-lo ao longo do caminho. Deve mais ou menos fazer o que você está procurando:
Public Sub do_all_the_things()
Dim i As Integer
Dim j As Integer
Dim color As String
i = 1
Do Until i = Range("'Open'!A1").End(xlDown).Row + 1
j = 1
color = "green"
Do Until j = Range("'New'!A1").End(xlToRight).Column + 1
If Range("'New'!A" & j).Value = Range("'Open'!A" & j).Value Then
color = "yellow"
Exit Do
End If
If color = "green" Then
Do Until j = Range("'Combined'!A1").End(xlToRight).Column + 1
If Range("'Combined'!A" & j).Value = Range("'Open'!A" & j).Value Then
color = "red"
Exit Do
End If
j = j + 1
Loop
End If
'at this point we know what color the row is
row_on = Range("'Combined'!A1").End(xlDown).Row + 1
Range("'Combined'!" & row_on & ":" & row_on).Value = Range("'New'!" & i & ":" & i).Value
If color = "red" Then
Range("'Combined'!" & row_on & ":" & row_on).Interior = 255 'red
End If
If color = "yellow" Then
Range("'Combined'!" & row_on & ":" & row_on).Interior = 65535 'yellow
End If
If color = "red" Then
Range("'Combined'!" & row_on & ":" & row_on).Interior.ThemeColor = xlThemeColorAccent6 'green
End If
i = i + 1
Loop
End Sub