Isso pode ser feito com um pouco de engenho:)
Vejaumexemplodeplanilhaquevocêpodebaixar:
http://www.shoey.com/apps/RoundedCornerSample.xlsx
Na captura de tela abaixo, você pode ver que cada cabeçalho de grupo azul tem um plano de fundo em forma de guia ou de canto redondo. Alguém sabe para criá-lo?