Não está claro para mim se o recurso original foi criado para invocar o "sino" no alto-falante da placa principal ou usar o sistema de áudio da área de trabalho. Mas esse recurso parece ter sido quebrado no Ubuntu por vários anos. Acabei de verificá-lo com um live CD do Ubuntu 14.04 e definitivamente ainda não funciona.
É uma pena, já que esse recurso não seria útil apenas para pessoas com necessidades de acessibilidade, mas para todos; afinal é fácil acidentalmente bater a tecla Caps Lock sem perceber.
A luz indicadora de caps lock na maioria dos teclados é uma pequena coisa na extremidade oposta do teclado (realmente inteligente!), e em alguns laptops está ausente ou é um micro-LED escondido sob o lábio do laptop você tem que segurá-lo até o nível dos olhos para ver a maldita coisa (deve haver um inferno especial para as pessoas que criaram esse 'recurso').
Existem vários relatórios de bugs sobre esse problema, nenhum deles parece ter recebido muita atenção. Muito decepcionante, quando o Windows fornece esse recurso, mas o Ubuntu não pode ser incomodado.
Existe uma "correção" mencionada aqui: " Posso fazer o meu Ubuntu fazer sons quando eu pressiono Caps Lock etc? " (eu não reproduzi o conteúdo desse artigo como sendo bastante longo). Eu ainda não tentei essa sugestão.