Saya tidak pakai software khsusu karena dari DC nya udah di kasih ddos protection dan untuk meminimalisir juga di cPanel/WHM bisa kita atur sesuai kebutuhan dan keamanan.
Atau coba cari disni kalau mau instantnya ddos protection software
tergantung seberapa canggih dan seberapa besar DDOS nya, kalau masih simple masih bisa ditanggulangi dengan firewall tapi kalau dah kompleks harus pakai anti DDOS hardware ini yang punya provider di datacenter, coba tanyakan ke provider anda mereka ada fasilitas DDOS atau tidak
Firewall yang free ada dan uptodate, bisa cek dan download di http://configserver.com/cp/csf.html
Tutorial konfigurasinya sudah tertera di sana, tinggal install dan setting sesuai kebutuhan