Sugiro que você forneça informações adicionais para obter melhores conselhos.
Primeiro, você pode querer considerar a atualização para 11.3 para alguns recursos adicionais e ajustes de desempenho do ZFS: link
Você não sabe qual SRU você instalou, mas o Solaris 11.2 e Solaris 11.1 SRU 20.5 ou mais recente inclui um novo parâmetro ajustável user_reserve_hint_pct que fornece uma dica da quantidade de memória a ser reservada para uso do aplicativo, limitando a quantidade de memória ser usado pelo cache do ARC do ZFS.
Você pode conferir o blog de Joerg: link , ou verificar o gerenciamento de memória do MOS DOC entre o ZFS e Aplicações no Oracle Solaris 11.x (Doc ID 1663862.1) diretamente.