Bitmaps (ou seja, arquivos com extensão .BMP) não oferecem suporte nativo à transparência: é necessário salvar como um formato diferente, como PNG. Outro formato que suporta transparência é o GIF, mas é adequado apenas para imagens simples com poucas cores. O melhor formato depende da imagem e de onde ela será usada.
Se o plano de fundo for transparente, no Photoshop e na maioria dos outros editores de imagem, você normalmente veria um fundo quadriculado composto de pequenos quadrados brancos e cinzas. Mas o Windows Picture Viewer em si não é bom para testar transparência - ele mostra áreas transparentes como sendo brancas.
Atualizar
Como essa resposta foi originalmente escrita (há cerca de 8 anos), foi apontado que o formato BMP pode dar suporte à transparência em alguns casos. Ainda assim, eu não recomendaria usá-lo para essa finalidade, muitos programas não interpretarão o canal alfa corretamente e não haveria motivo real para usá-lo em algo como PNG.