Você não pode fazer isso com um único formato numérico, em vez disso, você deve usar duas regras de formatação condicionais.
Adicione regras indo até Formatação condicional > > Nova regra > > Use uma fórmula para determinar quais células devem ser formatadas.
Isto é para tempos não-meia-noite.
Fórmula =MOD(A1,1)<>0
Formato numérico: m/d/yyyy hh:mm:ss
Isso é para os horários da meia-noite.
Fórmula =MOD(A1,1)=0
Formato do número: m/d/yyyy