Tente esta fórmula
=(B2&"-"&A2&"-"&1+7*n-WEEKDAY(DATE(B2,A2,8-xday)))+0
Isso faz o mesmo que o original, exceto que ele cria a data como uma string de texto, por exemplo, para a 5ª terça-feira de outubro de 2012, criaremos esta sequência de texto
2012-10-30
.... então o +0 no final compensa essa string para uma data, 30-Oct-2012. Mas se não houver um quinto xday, a string criada não é uma data válida, por ex. para o 5º sábado de outubro você teria 2012-10-34. Claramente, essa não é uma data válida, então, quando você adiciona zero, a coerção não funciona e você recebe #VALUE! erro. Se preferir uma mensagem de texto, basta usar o IFERROR, algo como isto
=IFERROR((B2&"-"&A2&"-"&1+7*n-WEEKDAY(DATE(B2,A2,8-xday)))+0,"No 5th day")