sysenter / sysexit depende mais do seu processador do que do kernel - o Linux o utiliza desde os primeiros 2.5 dias. O Linux escolhe os métodos SYSENTER, SYSCALL ou legacy int 80, dependendo do tipo de CPU em que está sendo executado.
Não tenho certeza de como você pode confirmar se está sendo usado. Eu não acho que o Systemtap ou LTT vai olhar em um nível baixo o suficiente. Talvez você possa instrumentar o kernel e adicionar alguns pontos de rastreio no código vDSO ...