Bu kadar bilgi karşılığında işkembeden sallamak dışında başka bir şey yapamayız.

Neticede bu bir web tabanlı yazılım.

Profiler kullanıp bakman lazım. 400 kullanıcıda sapıtıyorsan. Network veya IO değildir.

Anlık falan filan dediyorsun.

YA doğru düzgün cache sistemin yok biri öyle saçma sql yazmışki alet kendini dağtıyor.
YA kendini dağıtan cronjobların var.
Ya backend de websocket server kurdun ama düzgün çalışmıyor.

Öyle makinalar ancak video encoding yaparken cpu yükünden patlar.

Senin bize aga networkte boş port kalmadı makina boş boş yatıyor diye şikayete gelmen lazım.

Bence yazılımınız problemli. Muhtemelen cache tarafı bozuk.

Yük altında alınmış bir htop çıktısı görebilirmiyiz.