Por padrão, no AutoHotkey, é o caractere de acento grave / backtick '
Você pode configurá-lo para qualquer outro caractere em seu script, se preferir. Detalhes completos aqui: link
Editar:
Na verdade, acho que você tem outra coisa acontecendo aqui. <
não é um modificador - pelo menos não neste contexto. Eu apenas tentei isso e funcionou bem para mim:
CAPSLOCK & <::Msgbox,it works!