Dê uma olhada em About this Mac = > More Info = > USB e veja se a câmera está aparecendo lá (ela deve aparecer como "Built-in iSight").
Se isso funcionar, verifique se você não está executando nenhum outro aplicativo que possa estar sobrecarregando a câmera, por exemplo, Skype, Photo Booth, etc.