Você pode usar o TextEdit (incluído no OS X), ele tem suporte para txt , rtf , rtfd (com anexos, por exemplo, imagens), odt (OpenDocument de OpenOffice) e algum suporte para doc e docx .
Há o Microsoft Office para Mac, é claro, com suporte total para doc e docx (as macros podem não funcionar, verifique a documentação do MS). O Word também suporta rtf , claro.
OpenOffice / LibreOffice / NeoOffice suportam doc / docx muito bem também, AFAIK, mas seu formato nativo é odt . Eles também suportam rtf .
A Apple vende o iWork com Pages, cujo formato nativo é .pages e é incompatível com todo o resto.
Existem alguns outros processadores de texto com menos usuários, como o Mariner Write, mas eu não sei sobre o suporte ao formato de arquivo.