Disclaimer: Eu só já lidei com o código no nível do sistema operacional em um Motorola 68000. Esta resposta foi escrita da perspectiva de um sistema semelhante de dois toques, mas os conceitos devem se traduzir razoavelmente bem em sistemas modernos de vários anéis. .
Em um sistema com dois níveis de privilégio, chame-os de modo de usuário e modo de sistema, o programa de aplicativo seria executado no modo de usuário, enquanto o kernel é executado no modo de sistema. Se um aplicativo de modo de usuário tentar executar uma instrução privilegiada, ocorrerá uma interceptação para que o kernel possa decidir o que fazer com a situação.
Por outro lado, o kernel já tem os privilégios para executar as instruções desejadas, portanto, nenhum trap é executado.
No MC680x0 especificamente, qualquer manipulador de armadilhas é executado no modo privilegiado por padrão. Assim, qualquer manipulador de armadilhas pode usar o "retorno da exceção" sem repercussões e sem se preocupar em gerar outra armadilha. E o código no modo de usuário não deve usar tal instrução, pois não há exceção para retornar.
Em suma, a questão surge de uma falsa premissa; nenhuma armadilha é gerada ao usar "retorno da exceção" para alternar para o modo de usuário.