>> http://qmail.3va.net/qdp/qmail-antirelay.html
>> http://www.ru.qmail.org/docs/open_relay.html
> Читал я эти документы и стоит на сервере ucspi-tcp

Думется, забываете обновить cdb базу, после каждого обновления:
tcprules /etc/tcp.smtp.cdb /etc/tcp.smtp.tmp < /etc/tcp.smtp

И само собой подключить(пример строки запуска):
tcpserver -R -H -v -c 125 -x /etc/tcp.smtp.cdb -u 1112 -g 102 0 25 /var/qmail/bin/qmail-smtpd