Eu sei sobre a detecção do sistema usando o comando ping simples:
TTL
64 Linux/BSD
128 Windows
255 UNIX
Você pode alterar o TTL padrão, mas geralmente é o padrão.
Ou experimente o nmap:
nmap -O
Mas você precisa estudar esses comandos (fontes) para encontrar a resposta que precisa.