Jak w temacie.
Na początek bym wykrył co to za adresy, np:
netstat -ntu | awk '{print $5}' | cut -d: -f1 | sort | uniq -c | sort -n
Później bym ustalił jaki jest górny limit połączeń który jest dopuszczalny, resztę bym banował, np:
iptables -A INPUT -s {ip} -j DROP
Jeżeli Cię interesuje, to dla konkretnej usługi, np:
iptables -A INPUT -s {ip} -p tcp --destination-port 80 -j DROP
W tym przypadku dla portu 80, domyślnie działa na nim Apache.
Odpalałbym taki skrypt co określoną jednostkę czasu i dokładał kolejne adresy IP. Zapisujemy reguły, aby po restarcie nie uciekły:
/etc/init.d/iptables saveTo jest oczywiście najprostsza metoda, w zależności od tego co się potrzebuje można to rozbudowywać.