Pelo menos no Word 2007 em diante, você pode criar uma forma e preenchê-la com a imagem desejada. Por exemplo. para arredondar os cantos de uma imagem ...
"Inserir > Formas > Retângulo arredondado". Então, com a forma selecionada, "Ferramentas de desenho > Preenchimento de forma > Imagem" e selecione a imagem pretendida.
Para ajustar o raio do canto, basta puxar o ponto amarelo.
Observe que no Word 2016, você também pode borrar as bordas da imagem usando o "Picture Tools > Soft Edges, que parece muito bom. No entanto, se o arquivo resultante for aberto no Word 2007, ele apenas exibe as arestas a forma.