Limitar el trafico con iptables no puedes, lo que puedes hacer con iptables es marcar los paquetes que desees y luego filtrarlo con HTB que es un algoritmo utilizado para dividir el ancho de banda según nos interese de manera que se puede especificar un ancho de banda mínimo y un ancho de banda máximo. De manera que el algoritmo asegura la disponibilidad del mínimo, y en caso de que haya ancho de banda libre se puede llegar hasta el máximo. Si quieres te paso un manual en PDF de como hacerlo a tu correo.....