Un enlace para configurar Denyhost:
http://www.ecualug.org/2007/jun/26/blog/juank6_66/c_mo_prevenir_ataques_de_d...
Lo configuras para que te permita una cantidad limitada de intentos de acceso via ssh, si excedes el limite de intentos envía la IP al hosts.deny, también puedes indicar que IP son de confianza para permitir una cantidad mayor de intentos, te puede enviar un correo indicando que se ha bloqueado alguna IP
Saludos,