Você está descrevendo uma referência circular. Esse tipo de fórmula altera seu valor com base em uma fórmula que em algum lugar pede seu valor.
Nesse caso, A3 = A1 * A2
e A2 = Formula with A3
Tenho certeza de que você recebeu um aviso de referência circular ao concluir a segunda fórmula.
No Excel, clique em Arquivo - > Opções Clique em Ativar cálculo iterativo e defina seus valores.