Você não instala o OpenMP. O OpenMP é um recurso do compilador. Verifique se o compilador que você está usando implementa o OpenMP, que é uma API para programação paralela em C / C ++ / Fortran.
Verifique no site do OpenMP, openmp.org, uma lista de compiladores e plataformas que suportam a programação OpenMP.