O Masscan não pode usar o NSE, já que é um programa totalmente diferente. No entanto, ele possui alguns recursos avançados, como a detecção Heartbleed. Consulte o blog do autor para obter mais detalhes, mas veja a seguir linha de comando:
masscan 10.0.0.0/8 -p443 -S 10.1.2.53 --rate 100000 --heartbleed