A rolagem do Tmux é um pouco diferente da rolagem com a roda do mouse ou o trackpad.
No tmux, a rolagem é realizada primeiro enviando 'prefix- ['. Você verá uma pequena caixa amarela no canto superior direito da janela do terminal.
Neste modo, você pode usar as teclas de seta, PageUp, PageDown, Ctrl-U, Ctrl-D, hjkl (modo-vi) ou outras teclas de movimento configuráveis para avançar ou voltar pelo buffer.
Existe uma opção em compilações relativamente recentes do tmux que permite usar o mouse no modo de rolagem.
adicione isto ao seu .tmux.conf
set-option -g mouse on
Além disso, se a memória servir, o tmux é 'incorporado' ao iTerm e, portanto, recursos como multiplexação também são integrados. Existe uma razão pela qual você deseja usar o tmux no iTerm? O Terminal OSX embutido é definitivamente aprimorado por um multiplexador como o tmux, mas o iTerm procura aliviar essas falhas sendo uma solução autônoma.
EDIT 1: Após a atualização para o El Capitan, notei um comportamento pouco familiar ao usar o Terminal.app e o tmux. Isso me levou a um excelente artigo detalhando opções que eu não conhecia e que parecem responder à sua pergunta mais profundamente do que eu poderia esperar. Todas as opções são específicas do tmux, tanto quanto eu posso dizer, e são independentes das versões do OSX, então usá-las no Yosemite deve estar bem. Sua pergunta de rolagem é abordada aqui, com opções como:
bind-key -t vi-copy WheelUpPane scroll-up
bind-key -t vi-copy WheelDownPane scroll-down
Muitas outras opções úteis no artigo vinculado abaixo.