/usr/bin/find /mydir_with_many_subdirs -exec rm {} \;
você também pode filtrar com
/usr/bin/find /mydir_with_many_subdirs -type f -exec rm {} \; -- will delete all files
/usr/bin/find /mydir_with_many_subdirs -mtime +10 -exec rm {} \; -- will delete dirs and files older then 10
O man find irá fornecer mais filtros que você pode aplicar.