Talvez seus documentos e configurações estejam em um disco rígido diferente?
No Windows XP, ele deve estar localizado aqui:
%DRIVE ROOT%\Documents and Settings\user\Local Settings\Application Data\Adobe\Flash CS5\language\Configuration\ActionScript 3.0\jvm.ini
No Windows Vista ou Windows7:
%DRIVE ROOT%\Users\user\AppData\Local\Adobe\Flash CS5\language\Configuration\ActionScript 3.0\jvm.ini
(Pode ser necessário ativar o show hidden files
)
Depois de localizá-lo, abra o jvm.ini
e altere -Xmx128m para -Xmx256m, salve o arquivo e reinicie o Flash IDE.