nginx te rtmp modulu var. Oradan dönebilirsin veya red5 vs vovza kurabilirsin. Ancak bu sunucular java tabanlı acayip kaynak tüketiyor.

https://www.vultr.com/docs/setup-nginx-on-ubuntu-to-stream-live-hls-video

Buradan devam et.