O programa GIMP (é grátis, usa e faz o download e se assemelha ao photoshop) tem uma maneira muito simples de fazer exatamente o que você está pedindo sem muita escolha e mascaramento. Eu sei disso porque eu aprendi a edição de fotos e pintura no GIMP antes de ir ao photoshop e fiquei chocado que o photoshop não tinha essa maneira rápida e fácil de tirar todo o branco, cinza e manter um visual suave para o preto sem um muitos passos.
Quando você está no GIMP, o processo é o seguinte:
1 Abra o seu documento (ou seja, foto preto e branco)
2. Clique com o botão direito na foto no menu de camadas selecione "adicionar canal alfa"
3. Vá para o menu de cores no topo e selecione "Color to Alpha" uma janela aparece mostrando a cor e clique em OK.
É isso aí. O seu feito. Leva um minuto.
Você pode salvá-lo como um arquivo do photoshop ou qualquer outra coisa
Além disso, a cor escolhida é padronizada para branco em preto e branco, mas você pode colorir qualquer cor desejada. Não deixa um monte de bordas irregulares.