Você esqueceu o AND. Além disso, você precisa multiplicar o resultado de MID por 1 para fazer com que o Excel converta o texto novamente em número.
=IF(AND((MID(A2,1,1)*1<6), (MID(A2,2,1)*1<6), (MID(A2,3,1)*1<6)),"1","0")
Se você quiser armazenar seu valor como um número, isso também funcionará:
=IF(QUOTIENT(A2,600)+QUOTIENT(MOD(A2,100),60)+QUOTIENT(MOD(A2,10),6)>0,"0","1")
Note que ele retornará positivos mesmo se não houver nenhum 0s inicial (números de dígito único e duplo)