Você pode baixar o Solaris 11 gratuitamente no Oracle. Se você não assinar um contrato de suporte, não precisará pagar para usá-lo (isso costumava ser diferente, você tinha que pagar pelo suporte).
Assim como no Linux (comparado ao Windows), o Solaris tem o problema de que menos pessoas estão familiarizadas com o uso e a administração e, portanto, haverá menos pessoas que possam ajudar. Depende um pouco do que você quer fazer com o sistema (desenvolvimento de software, apenas brincar) se é algo que você deve tentar.
Tenha em mente que alguns softwares Unix / Linux que, em princípio, devem ser executados no Solaris, podem, na verdade, ser testados apenas no Linux, porque os desenvolvedores não têm acesso a uma máquina Solaris.
Você também pode experimentar um sistema Live para 11.1
Todos os downloads podem ser encontrados no site da Oracle