Na verdade, o GNS3 é um software de código aberto. Também Dynamips (o núcleo do GNS3) é open source. O problema com eles é que você precisa ter imagens originais do IOS para emular roteadores (ou IPS ou firewalls). Você também pode emular JunOs.
O GNS3 também oferece a possibilidade de adicionar máquinas virtuais (do VirtualBox ou Qemu) à topologia. Você ainda pode brincar um pouco com o GNS3 emulando dispositivos de rede de código aberto, como: OpenWRT ( link ), núcleo Vyatta ( link ), Openvswitch ( link ), pfSense ( link . Basta prestar atenção aos recursos necessários para emular uma rede complexa.
Outro bom software para emular redes é o ns ( link ).
Fonte: Network Simulator para Ubuntu 12.04