В статье "Getting Started with Sendmail" говориться как собрать sendmail из исходных текстов, настроить SASL аутентификацию в LDAP каталоге и включить средства шифрования через метод STARTTLS.