В чем именно проблема подсказать не могу, было нечто подобное(исправил полной вычисткой mgetty и установкой оной заново, включая генерацию нового конфига), сравни мой лог со своим и конфиг может поможет.
08/16 15:23:20 aa2 mgetty: experimental test release 1.1.30-Dec16
08/16 15:23:20 aa2 check for lockfiles
08/16 15:23:20 aa2 checklock: stat failed, no file
08/16 15:23:20 aa2 locking the line
08/16 15:23:20 aa2 makelock(cuaa2) called
08/16 15:23:20 aa2 do_makelock: lock='/var/spool/lock/LCK..cuaa2'
08/16 15:23:20 aa2 lock made
08/16 15:23:23 aa2 tio_get_rs232_lines: status: RTS CTS DSR DTR
08/16 15:23:23 aa2 lowering DTR to reset Modem
08/16 15:23:24 aa2 tss: set speed to 57600 (160400)
08/16 15:23:24 aa2 tio_set_flow_control( HARD )
08/16 15:23:24 aa2 waiting for line to clear (VTIME), read:
08/16 15:23:24 aa2 send: ATS0=0Q0&D3&C1[0d]
08/16 15:23:24 aa2 waiting for ``OK''
08/16 15:23:24 aa2 got: ATS0=0Q0&D3&C1[0d][0d][0a]OK ** found **
Обрати внимание на следующую строку, у тебя ее нет
Такое ощущение что mgetty даже не пробует определить модем...
08/16 15:23:24 aa2 mdm_send: 'ATI'
08/16 15:23:24 aa2 mdm_gis: string 1: '5601'
08/16 15:23:24 aa2 mdm_identify: string '5601'
08/16 15:23:24 aa2 USR Courier/Sportster 56k detected
08/16 15:23:24 aa2 mdm_send: 'ATI3'
08/16 15:23:24 aa2 mdm_gis: string 1: 'U.S. Robotics 56K FAX INT V5.20.9'
08/16 15:23:24 aa2 additional info: 'U.S. Robotics 56K FAX INT V5.20.9'
08/16 15:23:24 aa2 mdm_send: 'AT+FCLASS=2.0'
08/16 15:23:24 aa2 mdm_command: string 'AT+FCLASS=2.0'
08/16 15:23:24 aa2 mdm_command: string 'OK' -> OK
08/16 15:23:24 aa2 mdm_send: 'AT+FAA=1;+FCR=1'
08/16 15:23:24 aa2 mdm_command: string 'AT+FAA=1;+FCR=1'
08/16 15:23:24 aa2 mdm_command: string 'OK' -> OK
08/16 15:23:24 aa2 mdm_send: 'AT+FBO=1'
08/16 15:23:24 aa2 mdm_command: string 'AT+FBO=1'
08/16 15:23:24 aa2 mdm_command: string 'OK' -> OK
08/16 15:23:24 aa2 mdm_send: 'AT+FNR=1,1,1,0'
08/16 15:23:24 aa2 mdm_command: string 'AT+FNR=1,1,1,0'
08/16 15:23:24 aa2 mdm_command: string 'OK' -> OK
08/16 15:23:24 aa2 mdm_send: 'AT+FLI="00 00 000000"'
08/16 15:23:24 aa2 mdm_command: string 'AT+FLI="00 00 000000"'
08/16 15:23:24 aa2 mdm_command: string 'OK' -> OK
08/16 15:23:24 aa2 mdm_send: 'AT+FCC=1,5,0,2,0,0,0,0'
08/16 15:23:24 aa2 mdm_command: string 'AT+FCC=1,5,0,2,0,0,0,0'
08/16 15:23:24 aa2 mdm_command: string 'OK' -> OK
08/16 15:23:24 aa2 waiting for line to clear (VTIME), read: [0a]
08/16 15:23:24 aa2 removing lock file
файл mgetty.config
# у меня три модема, 2 - внутренних курьера и один внешний зюксель
#port cuaa0
debug 5
fax-id 00 00 000000
speed 57600
direct NO
blocking NO
port-owner uucp
port-group uucp
port-mode 0660
toggle-dtr YES
toggle-dtr-waittime 500
data-only NO
fax-only NO
modem-type auto
init-chat "" ATS0=0Q0&D3&C1 OK
modem-check-time 3600
rings 3
answer-chat "" ATA CONNECT \c \r
answer-chat-timeout 80
autobauding NO
ringback NO
ringback-time 30
ignore-carrier false
issue-file /etc/issue
prompt-waittime 500
login-prompt @!login:
login-time 240
diskspace 1024
notify faxadmin
fax-owner uucp
fax-group modem
fax-mode 0660