Eu relatei esse problema no Microsoft Connect. O botão do acelerador deveria ser removido no IE 11, mas ainda aparecia, embora não fizesse nada. Havia uma opção no botão acelerador Advanced - Display na seleção (em inglês) - que precisava ser desmarcada. Esta opção não existe na versão atual, então acho que todo o código foi removido.