Experimente e veja se funciona um pouco melhor. Eu incluí uma diretiva #If. Diz ao AHK "Ei, só deixe que isso funcione se a diretiva #If retornar true". Quando você acerta F1-F9, ele verifica se você está segurando RWin primeiro. Se você estiver, ele usa a tecla de atalho alternativa.
#SingleInstance, Force
return
F1::Send {Volume_Mute}
F2::Send {Volume_Down}
F3::Send {Volume_Up}
F4::Send {Launch_App2}
F5::Send {Media_Play_Pause}
F6::Send {Media_Stop}
F7::Send {Media_Prev}
F8::Send {Media_Next}
F9::Send {Launch_App1}
#If GetKeyState("RWin", "P")
F1::F1
F2::F2
F3::F3
F4::F4
F5::F5
F6::F6
F7::F7
F8::F8
F9::F9
Referências:
#If
GetKeyState