Eu não acredito que exista um estilo interno para as fórmulas. No entanto, você pode ter uma macro para iterar todas as fórmulas e alterar o estilo. A FAQ do OpenOffice.org em francês tem um exemplo de uma macro:
Sub Main
embeddedObjects = ThisComponent.getEmbeddedObjects()
elementNames = embeddedObjects.getElementNames()
for i=0 to UBOUND(elementNames)
element = embeddedObjects.getByName(elementNames(i)).Model
if (not isNull(element)) then
if (element.supportsService("com.sun.star.formula.FormulaProperties")) then
element.BaseFontHeight = 14
element.FontNameVariables= "Arial"
element.FontNameFunctions = "Arial"
element.FontNameNumbers= "Arial"
element.FontNameText= "Arial"
endif
endif
next i
ThisComponent.reformat()
End Sub