O Excel não funciona dessa maneira. Você não pode inserir um valor em uma célula e também ter uma fórmula na célula.
O mais fácil seria ter A1, A2 e A3 para a entrada manual e calcular o resultado em uma célula separada.
=IF(ISNUMBER(A2),A2*A1,IF(ISNUMBER(A3),A3/A1,"Enter a value in either A2 or A3 and clear the other one."))
Uma maneira mais complexa seria usar o VBA para calcular o resultado e gravá-lo na respectiva célula. Cole o seguinte código no módulo Folha (Clique com o botão direito na planilha > Ver código)
Private Sub Worksheet_Change(ByVal Target As Range)
If Not Intersect(Target, Range("A2:A3")) Is Nothing Then
Application.EnableEvents = False
If Target.Address = "$A$2" Then
[A3] = [A2] * [A1]
Else
[A2] = [A3] / [A1]
End If
Application.EnableEvents = True
End If
End Sub