Para glob para os nomes diferentes, você pode usar um loop for
como assim
for f in /Users/Marine/Descktop/folderGN/{*[Pp]rotein*,*MSMS*,*PSms*}; do echo mv -v -- "$f" /Users/Marine/Descktop/myfolder ; done
Remova o echo
após o teste para mover realmente os arquivos.
Eu copiei seus caminhos exatamente (incluindo o possível erro de digitação em Descktop
?), mas você poderia fazer isso com caminhos relativos:
cd /Users/Marine/Descktop/folderGN
for f in *[Pp]rotein* *MSMS* *PSms* ; do echo mv -v -- "$f" ../myfolder ; done
(remova echo
após testar como antes)