A Wikipédia tem uma explicação decente . A partir desse artigo:
-
/bin
: "Binários de comando essenciais que precisam estar disponíveis no modo de usuário único; para todos os usuários, por exemplo, cat, ls, cp." -
/usr/bin
: "Binários de comando não essenciais (não necessários no modo de usuário único); para todos os usuários."