URL: https://www.opennet.ru/cgi-bin/openforum/vsluhboard.cgi
Форум: vsluhforumID1
Нить номер: 73354
[ Назад ]
Исходное сообщение
"Не хватает inodes"
Отправлено cyber86 , 06-Апр-07 10:08 
Файловый сервер вешается на ровном месте. Тему уже такую постил, немного погуглив, у самого появились некоторые варианты.  Вроде как не хватает inodes ов.. (Дескрипторов файлов на том или ином разделе.)

Натыкался на статьи про патчи для Softupdates (http://sysoev.ru/freebsd/softupdates.html), применение которых не помогло. В итоге вобще вырубил их (прямо закомментив softupdate в ядре).

/dev/mirror/gm0s1a on / (ufs, local, acls)
devfs on /dev (devfs, local)
/dev/mirror/gm0s2a on /homes/operators (ufs, local, acls)
/dev/mirror/gm0s2g on /homes/students (ufs, local, acls)
/dev/mirror/gm0s2f on /homes/teach (ufs, local, acls)
/dev/mirror/gm0s2h on /shares/common (ufs, local, acls)
/dev/mirror/gm0s2b on /shares/distrib (ufs, local, acls)
/dev/mirror/gm0s2e on /shares/stud (ufs, local, acls)
/dev/mirror/gm0s2d on /shares/stuff (ufs, local, acls)
/dev/mirror/gm0s1d on /usr (ufs, local)
/dev/mirror/gm0s1e on /var (ufs, local)
/dev/md0 on /var (ufs, local)
devfs on /var/named/dev (devfs, local)


Думал, что как то эти inode связаны с софтапдейтами, но похоже ошибся.
Даже после того, как отрубил софтапдейты, сервер продолжает вешаться, когда заканчиваются inodы..  

# df -i
Filesystem         1K-blocks     Used   Avail Capacity iused   ifree %iused  Mounted on
/dev/mirror/gm0s1a   1012974    85570  846368     9%    2249  139061    2%   /
devfs                      1        1       0   100%       0       0  100%   /dev
/dev/mirror/gm0s2a  35539756 31708362  988214    97%   82996 4533194    2%   /homes/operators
/dev/mirror/gm0s2g  15231278 13742042  270734    98%   86699 1891667    4%   /homes/students
/dev/mirror/gm0s2f  10154158  9341624     202   100%   39823 1279087    3%   /homes/teach
/dev/mirror/gm0s2h  10154158  9273418   68408    99%   37910 1281000    3%   /shares/common
/dev/mirror/gm0s2b  76486368 66913574 3453886    95%  193502 9698336    2%   /shares/distrib
/dev/mirror/gm0s2e  10154158  8458690  883136    91%   32210 1286700    2%   /shares/stud
/dev/mirror/gm0s2d  24372460 21608534  814130    96%   31336 3124630    1%   /shares/stuff
/dev/mirror/gm0s1d   2026030  1605214  258734    86%  161638  120984   57%   /usr
/dev/mirror/gm0s1e   2019638  1475594  382474    79%  282606      16  100%   /var
/dev/md0               31470      810   28144     3%     129    4221    3%   /var
devfs                      1        1       0   100%       0       0  100%   /var/named/dev

Как увеличить количество инодов, или может какие другие предложения будут?
Куда копать, каким лесом пройти?

Содержание
Сообщения в этом обсуждении
"Не хватает inodes"
Отправлено YuryD , 06-Апр-07 11:39 
>Файловый сервер вешается на ровном месте. Тему уже такую постил, немного погуглив,
>у самого появились некоторые варианты.  Вроде как не хватает inodes


Кол-во инодов задается при создании файловой системы. Или переделывайте ваш /var
Или убивайте там файлы - их очень много. Хотя такие грабли последний раз наблюдал с cnews - там куча мелких файлов.

"Не хватает inodes"
Отправлено lavr , 06-Апр-07 12:16 
>Файловый сервер вешается на ровном месте. Тему уже такую постил, немного погуглив,
>у самого появились некоторые варианты.  Вроде как не хватает inodes
>ов.. (Дескрипторов файлов на том или ином разделе.)
>
>Натыкался на статьи про патчи для Softupdates (http://sysoev.ru/freebsd/softupdates.html), применение которых не помогло.
>В итоге вобще вырубил их (прямо закомментив softupdate в ядре).
>
>/dev/mirror/gm0s1a on / (ufs, local, acls)
>devfs on /dev (devfs, local)
>/dev/mirror/gm0s2a on /homes/operators (ufs, local, acls)
>/dev/mirror/gm0s2g on /homes/students (ufs, local, acls)
>/dev/mirror/gm0s2f on /homes/teach (ufs, local, acls)
>/dev/mirror/gm0s2h on /shares/common (ufs, local, acls)
>/dev/mirror/gm0s2b on /shares/distrib (ufs, local, acls)
>/dev/mirror/gm0s2e on /shares/stud (ufs, local, acls)
>/dev/mirror/gm0s2d on /shares/stuff (ufs, local, acls)
>/dev/mirror/gm0s1d on /usr (ufs, local)
>/dev/mirror/gm0s1e on /var (ufs, local)
>/dev/md0 on /var (ufs, local)
>devfs on /var/named/dev (devfs, local)
>
>
>Думал, что как то эти inode связаны с софтапдейтами, но похоже ошибся.
>
>Даже после того, как отрубил софтапдейты, сервер продолжает вешаться, когда заканчиваются inodы..
>
>
># df -i
>Filesystem         1K-blocks  
>  Used   Avail Capacity iused   ifree
>%iused  Mounted on
>/dev/mirror/gm0s1a   1012974    85570  846368  
>  9%    2249  139061  
> 2%   /
>devfs            
>          1
>       1    
>   0   100%    
>  0       0  
>100%   /dev
>/dev/mirror/gm0s2a  35539756 31708362  988214    97%  
>82996 4533194    2%   /homes/operators
>/dev/mirror/gm0s2g  15231278 13742042  270734    98%  
>86699 1891667    4%   /homes/students
>/dev/mirror/gm0s2f  10154158  9341624     202  
>100%   39823 1279087    3%  
>/homes/teach
>/dev/mirror/gm0s2h  10154158  9273418   68408    99%
>  37910 1281000    3%   /shares/common
>
>/dev/mirror/gm0s2b  76486368 66913574 3453886    95%  193502 9698336
>   2%   /shares/distrib
>/dev/mirror/gm0s2e  10154158  8458690  883136    91%  
> 32210 1286700    2%   /shares/stud
>/dev/mirror/gm0s2d  24372460 21608534  814130    96%  
>31336 3124630    1%   /shares/stuff
>/dev/mirror/gm0s1d   2026030  1605214  258734    86%
> 161638  120984   57%   /usr
>/dev/mirror/gm0s1e   2019638  1475594  382474    79%
> 282606      16  100%  
> /var
>/dev/md0            
>   31470      810  
> 28144     3%    
>129    4221    3%  
>/var
>devfs            
>          1
>       1    
>   0   100%    
>  0       0  
>100%   /var/named/dev
>
>Как увеличить количество инодов, или может какие другие предложения будут?
>Куда копать, каким лесом пройти?

жуть :(
Встать ПРОСТО так из-за нехватки inodes система не может, но вот из-за переполнения:

"/"
"/usr"
возможно "/var" - у вас он вовсе непонятный!
может.
Судя по отсутствию "/tmp" как отдельной FS, данная директория у вас расположена ПРЯМО
в корне "/", так как она является основной рабочей для разного рода промежуточных
действий, то скорее всего заполнение "/" до 94-96% или переполнение, приводит к ступору,
ну или заполнение-переполнение "/usr"

Вот такие мысли, ну либо сервер встает в ступор из-за чего-то другого - смотреть логи
и сообщения на консоли, ну или panic если есть.

"Не хватает inodes"
Отправлено YuryD , 06-Апр-07 14:04 
>Встать ПРОСТО так из-за нехватки inodes система не может, но вот из-за
>переполнения:

Товарищ, верьте, встанет. если у него на /var иноды кончились, а там как обычно
/var/log то система встанет колом например при ротации логов. Многие демоны лягут,
из тех что временные файлы в /var держат. Нету инодов - это значит невозможно создать новый файл.

"Не хватает inodes"
Отправлено lavr , 06-Апр-07 14:31 
>>Встать ПРОСТО так из-за нехватки inodes система не может, но вот из-за
>>переполнения:
>
> Товарищ, верьте, встанет. если у него на /var иноды кончились, а
>там как обычно
>/var/log то система встанет колом например при ротации логов. Многие демоны лягут,
>
>из тех что временные файлы в /var держат. Нету инодов - это
>значит невозможно создать новый файл.

не встанет и демоны не лягут, все до критической точки.


"Не хватает inodes"
Отправлено YuryD , 06-Апр-07 14:49 
>>>Встать ПРОСТО так из-за нехватки inodes система не может, но вот из-за
>>>переполнения:
>не встанет и демоны не лягут, все до критической точки.

Он вывод df -i приводил - на /var 16 free inodes  :( У меня система таки вставала
от cnews, правда это была FreeBSD-2.2.8

"Не хватает inodes"
Отправлено lavr , 06-Апр-07 16:09 
>>>>Встать ПРОСТО так из-за нехватки inodes система не может, но вот из-за
>>>>переполнения:
>>не встанет и демоны не лягут, все до критической точки.
>
> Он вывод df -i приводил - на /var 16 free inodes
> :( У меня система таки вставала
>от cnews, правда это была FreeBSD-2.2.8

sorry, не приглядывался к кол-ву.

"Не хватает inodes"
Отправлено cyber86 , 09-Апр-07 06:20 
Спасибо всем, кто откликнулся. Так как лечить будем? Это файловый сервер (файлопомойка). Что бы такого сделать, чтобы не вспоминать про него вобще?.

1) Переразметить винчестер с /tmp.
2) Надо чего нибудь намудрить с увеличением количества inodes ов?
3) Волнует меня версия ОС. Когда он жил у меня под FBSD 5.4 - проблем не было. Переехал на 6ю ветку - дня нормально не работает. :-(

"Не хватает inodes"
Отправлено тока , 09-Апр-07 13:48 
>>/dev/mirror/gm0s1e on /var (ufs, local)
>>/dev/md0 on /var (ufs, local)
а это нормально?

"Не хватает inodes"
Отправлено cyber86 , 09-Апр-07 13:49 
>>>/dev/mirror/gm0s1e on /var (ufs, local)
>>>/dev/md0 on /var (ufs, local)
>а это нормально?


Врятли. :-) Тоже не знаю, откуда взялось и как лечить.

"Не хватает inodes"
Отправлено тока , 10-Апр-07 10:00 
>>>>/dev/mirror/gm0s1e on /var (ufs, local)
>>>>/dev/md0 on /var (ufs, local)
>>а это нормально?
>
>
>Врятли. :-) Тоже не знаю, откуда взялось и как лечить.

сделать gm0 актуальным(файлы, а то неизвестно куда писалось) и почистить fstab от md0?

"Не хватает inodes"
Отправлено тока , 10-Апр-07 10:06 
>>>>>/dev/mirror/gm0s1e on /var (ufs, local)
>>>>>/dev/md0 on /var (ufs, local)
>>>а это нормально?
>>
>>
>>Врятли. :-) Тоже не знаю, откуда взялось и как лечить.
>
>сделать gm0 актуальным(файлы, а то неизвестно куда писалось) и почистить fstab от
>md0?
хотя на md0 иноды есть свободные :)
"Не хватает inodes"
Отправлено cyber86 , 12-Апр-07 12:22 

cat /etc/fstab
# Device                Mountpoint      FStype  Options         Dump    Pass#
/dev/mirror/gm0s1b              none            swap    sw              0       0
/dev/mirror/gm0s1a              /               ufs     rw,acls         1       1
/dev/mirror/gm0s2a              /homes/operators                ufs     rw,acls         2       2
/dev/mirror/gm0s2g              /homes/students         ufs     rw,acls         2       2
/dev/mirror/gm0s2f              /homes/teach            ufs     rw,acls         2       2
/dev/mirror/gm0s2h              /shares/common          ufs     rw,acls         2       2
/dev/mirror/gm0s2b              /shares/distrib         ufs     rw,acls         2       2
/dev/mirror/gm0s2e              /shares/stud            ufs     rw,acls         2       2
/dev/mirror/gm0s2d              /shares/stuff           ufs     rw,acls         2       2
/dev/mirror/gm0s1d              /usr            ufs     rw              2       2
/dev/mirror/gm0s1e              /var            ufs     rw              2       2
/dev/acd0               /cdrom          cd9660  ro,noauto       0       0

в fstab ничего про md0 нету. :-(

"Не хватает inodes"
Отправлено YuryD , 12-Апр-07 12:36 
> cat /etc/fstab

Memory Disk - чего вы от него хотели ? Его еще создать надо, потом примонтировать и пр...

"Не хватает inodes"
Отправлено nimb , 12-Апр-07 14:39 
По умолчанию переменная varmfs (/var для бездисковой конфигурации) выставлена в "AUTO" (в /etc/defaults/rc.conf), при загрузке скрипт /etc/rc.d/var проверяет возможность записи в /var, ну и обламывается из-за нехватки inodes, в результате появляется:

/dev/md0 31470 810 28144 3% 129 4221 3% /var

Выставьте в /etc/rc.conf varmfs="NO", и этого не будет.