Quando comecei a fazer streaming o que usávamos era Icecast, havia pouca vida além dele, pelo menos em nosso universo de radicais free software 🙂
Ele segue a linha de HTTP progressivo e tinha só suporte a OGV, para vídeo. Hoje tem implementado o suporte a WEBM e fiz algumas transmissões e rolou bem bacana.
Na minha pesquisa anterior de solução alternativa ao Icecast achei interessante o stream-m, a partir de uma documentação de implementação na TV Unesp. Mas não avancei muito.
Hoje tenho interessado bastante pelo Nginx + o módulo RTMP, e não é pouca as documentações pela internet de implementação e de uso. Irei estudar ele a fundo nesse momento.
Outro que tenho grande interesse em testar é o flussonic (erlyvideo), nem parece muito promissor e avançado.
Existem várias outras soluções em software livre / open source para montar um servidor, alguns que identifiquei: