Una de las mejores formas de hacer caer un servidor es con un DDoS o Ataque de Denegación de Servicio Distribuido este es un ataque coordinado de varias muchas veces miles de maquinas intentando entrar a tu servidor lo que hace que este se bloquee y ademas agota el uso de Banda de Ancha mensual.

En LINUX la mejor forma es usando el modulo de Apache mod_evasive el cual detecta este tipo de ataques de la siguientes formas:

Muchas peticiones de un mismo child por segundo.
Solicitudes a una misma pagina muchas veces por segundo.

Automáticamente mod_evasive bloquea este tipo de ataques y banea temporalmente las IP’s de los atacantes.
mod_evasive es desarrollado por Jonathan A. Zdziarski y lo puedes descargar desde aquí.

Con esto no quiero decir que estas 100% seguro e inmune a un ataque DDoS o de otro tipo pero el mod_evasive evita de alguna forma que tu servidor sea mas vulnerable.

Fail2Ban es un demonio que corre en sistemas Linux para Banear IP’s que hacen intentos de login masivos o ataques de fuerza bruta a los sistemas Linux, el programa escanea los logs de acceso en busca de errores y cuando encuentra intentos de login fallidos muy seguidos banea la IP bloqueando en en firewall de Linux, yo lo uso en mi PC personal y en servidores. He visto muy buenos resultados siempre un par los intentos de login al SSH diarios.

Lo recomiendo!

http://www.fail2ban.org/