O formato [h]: mm: ss deve ser outro valor na lista personalizada em (no Excel 2003)
Format -> cells -> Number tab
então
category = custom
em seguida, role para baixo na lista "Tipo" até encontrar
[h]:mm:ss
Se não estiver lá, você pode digitá-lo na caixa única, onde diz "Tipo:" no lado direito da guia.