O diretório chamado / no Cygwin é, na verdade, o diretório em que você instalou o Cygwin (por exemplo, C: \ apps \ cygwin). Então você provavelmente removeu um pedaço da sua instalação do Cygwin, mas não afetou o Windows. Eu reinstalaria o Cygwin apenas para garantir que ele continue funcionando.
UPDATE: Veja o comentário (abaixo) sobre / cygdrive que leva a todas as unidades locais do Windows. Meu comentário acima não está correto. O comando rm na questão teria, eventualmente, começado a deletar arquivos do Windows.