Permites relay en tu server postfix yo empezarÃa por deshabilitarlo, y lo otro seria limitar el numero de correos enviados por minutos para detener el spam eso lo haces con,
smtpd_client_message_rate_limit=50 anvil_rate_time_unit = 60s
Es decir 50 mensajes en un minuto, asi detendras la cola y podras chequear de donde sale,
Saludos,
Wilmer.