O seguinte funcionou para mim. Exemplos semelhantes também são publicados no wiki do Google Code para iTerm2.
tell application "iTerm"
tell the current terminal
set number of rows to 30
end tell
end tell
O erro que você está recebendo parece estranho o suficiente, mas a sintaxe está correta. Tente reiniciar o AppleScript Editor e o iTerm2. Você também pode tentar atribuir um novo terminal como set newterm to (make new terminal)
e, em seguida, tell newterm to set number of rows to 30
ou similar.