Что-то не так с этими правилами? Они не могут быть добавлены в iptables, без ошибок, но они просто не отображаются в iptables -vnL
iptables -I FORWARD 1 -s 1.2.3.4 -p udp -m connlimit --connlimit-above 20 --connlimit-mask 24 -j DROP
iptables -I FORWARD 1 -s 1.2.3.4 -p udp -m connlimit --connlimit-above 10 -j DROP
iptables -I FORWARD 1 -s 1.2.3.4/24 -p udp -m connlimit --connlimit-above 10 --connlimit-mask 24 -j DROP