Use o Flash Media Server ( que você pode baixar gratuitamente ). Em seguida, siga artigo de ajuda da Adobe. Com um pequeno script de ação, deve ser bem fácil.
Existe também um plugin gratuito (flow player) que você pode baixar aqui que se conectará ao seu RTMP fonte e saída para swf.