Para o Thunderbird, é um novo recurso com a atualização mais recente 45.0.
Você pode desativá-lo em Opções > Composição > Geral. O recurso é chamado "Ao usar o formato de parágrafo, a tecla enter cria um novo parágrafo" e o padrão é em [X].
Eu não sei sobre a mudança para o OpenOffice. Talvez uma atualização recente para isso também?