Em relação à sua primeira pergunta quais alterações são necessárias no firewall do Windows e no firewall do nó32 no servidor? você deve abrir a porta TCP 1433 no firewall do Windows e NOD32 (acho que você quer dizer ESET Smart Security - porque NOD32 é apenas um antivírus).
também quais mudanças são necessárias no sql server 2008 r2 para acesso remoto? Para habilitar o acesso remoto no SQL Server 2008, é necessário habilitar o TCP / IP do SQL Configuration Manager e reiniciar o Serviço SQL para aplicar as alterações. Captura de tela: link
Além disso, sugiro que você mude para o modo de autenticação do SQL Server e do Windows. Isso pode ser feito no Microsoft SQL Server Management Studio clicando com o botão direito do mouse na instância do servidor SQL, selecionando "Propriedades" e "Segurança" na janela esquerda. Captura de tela: link
Finalmente, em relação à sua terceira pergunta qual software é o melhor para se conectar remotamente a essa instância? Eu ficaria com o Microsoft SQL Server Management Studio. Não há necessidade de ir a qualquer solução de software de terceiros.