Confira GNU Radio . Parece que você estaria interessado no hardware USRP . Existe também a Rede do GNU Radio Archive . Alguém pode já ter construído o aplicativo que você está procurando ou pelo menos você terá alguns exemplos de trabalho não-triviais para aprender.