As configurações que estão no arquivo .inputrc afetam todos os programas que usam a biblioteca de linha de leitura GNU , não apenas bash . Pense no arquivo .inputrc como sendo um arquivo de configuração para o GNU Readline similar a como .bashrc é um arquivo de configuração para bash .
GNU Readline é descrito como:
... A set of functions for use by applications that allow users to edit command lines as they are typed in.
Para esclarecer um pouco mais, as configurações que estão no arquivo .bashrc somente afetam bash . Se você quiser executar bash sem o uso ou o suporte do GNU Readline, invoque bash com a opção --noediting da seguinte forma: bash --noediting . Você pode descobrir mais sobre as opções bash aqui .
Para responder sua última pergunta
How do I distinguish when to put what where?
Se você quiser que uma opção afete todos os programas em seu sistema que usam a biblioteca GNU Readline, .inputrc seria a melhor escolha. Caso contrário, se você quiser simplesmente configurar sua sessão bash , .bashrc seria a melhor escolha.