Проблему с модемом решили(отказались от hylafax, используем mgetty).
Для преобразования из g3 в tiff используем приведенный ниже скрипт из пакета mgetty.
Однако тиффы получаются нечитаемые. Подскажите пожалуйста где грабли.

Спасибо.

MAILTO="FaxMaster"
SENDER="$2"

case $4 in
  /var/spool/fax/incoming/fn*) STRETCH=-s ;; # find out resolution
  *) STRETCH=
esac

FAX=`echo $1|sed 's/...$//'`
FAX_BASENAME=`basename $FAX`

fax2tiff $STRETCH -M -4 -o /tmp/$FAX_BASENAME.tiff $FAX.*
metasend -b -F "Fax Getty <root>" -f /tmp/$FAX_BASENAME.tiff \
  -m image/tiff -s "fax from $SENDER" -S 4000000 -t $MAILTO
rm /tmp/$FAX_BASENAME.tiff

exit 0