A proteção por senha (autenticação de rede) é significativamente mais fácil e menos propensa a erros. A proteção por senha também permite restringir o acesso por compartilhamento em vez de restringir todo o acesso a todos os compartilhamentos no sistema.
O pode ser feito via IPSec, mas (pelo menos historicamente) o IPSec no Windows é ridiculamente complexo e geralmente é considerado um tremendo desperdício de tempo para os benefícios que você obtém. Eu nunca vi ninguém realmente usar o IPSec antes, exceto em servidores de produção.
Você também pode configurar o firewall, mas isso é um pouco menos complicado. Abra o Painel de Controle - > Sistema e Segurança - > Firewall do Windows - > Configurações avançadas. Verifique se as conexões de entrada estão bloqueadas por padrão (essa é a configuração padrão). Em seguida, clique em Regras de entrada. Role para baixo até ver "Compartilhamento de arquivos e impressoras". Os que devem fazer o que você quer são NB-Datagram-In, NB-Name-In, NB-Session-In e SMB-In. Eu não acredito que os outros sejam usados para compartilhamento de arquivos. Para cada um deles, clique duas vezes na regra para abrir a janela Propriedades. Na guia Escopo, adicione o endereço IP em questão à lista de clientes permitidos. Isso deve proibir qualquer outro IP de acessar todos os compartilhamentos de arquivos neste computador, mas você deve testá-lo.