Bueno, definitivamente windows 8 no le gusta algo en el protocolo TLS o en los ciphers que estas ofreciendo
Si evidentemente es eso...
Sujerencia, pon a dovecot en modo debug para el ssl, quizas veas que ciphers esos clientes estan tratando de usar y quitalo de la lista que dovecot ofrece. Usualmente dovecot va ofrecer la mayor cantisdad de ciphers que openssl libs provee, pero considerando como el mundo esta, yo dejaria solo TLSv1.2 y los eliptic ciphers, pero los clientes de correo viejos podrian dejar de funcionar :)
Haré esto pero lo más jodido es que también pasa con SMTP, o sea no autentica en modo SSL. Y probe con Thunderbird y da el mismo problema, o sea es Winrus 8 y peor aún en una PC que probe que tenía 8.1 si funciona el POP3, pero NUNCA funcionó el SMTP ni por el 25.
Saludos, David