Você pode determinar um valor maior usando MAX(A1,B1)
function:
IF(MAX(A1,B1)=0,0,IF(AND(MAX(A1,B1)>0,MAX(A1,B1)<=10),1,IF(AND(MAX(A1,B1)>10,MAX(A1,B1)<=80),2,IF(MAX(A1,B1)>80,3))))
Se todos os valores forem um número positivo, você não precisa verificar os limites inferiores para simplificar a função desta maneira:
IF(MAX(A1,B1)=0,0,IF(MAX(A1,B1)<=10,1,IF(MAX(A1,B1)<=80,2,3)))