Como você não escreveu o sabor do Linux que você está usando, minha resposta pode não ser adequada. Se é derivado do Debian (Debian, Ubuntu, Linux Mint), você poderia usar
sudo dpkg-reconfigure keyboard-configuration
que o orientará em todas as seções possíveis, como idioma, variantes de teclado (sobre as quais você está perguntando) e até mesmo ligações de teclado especiais. Lembre-se de que isso altera o layout em todo o sistema (não apenas para o usuário).
Por outro lado, a maioria dos ambientes de desktop (Gnome, KDE, etc.) fornece interfaces gráficas para configurações baseadas em usuário. No KDE4, você pode encontrar isto, por exemplo em Configurações- > Configurações do sistema, selecionando "dispositivos de entrada" na seção de hardware.
Você pode encontrar mais respostas sobre isso em AskUbuntu .