The OpenNET Project / Index page

[ новости /+++ | форум | wiki | теги | ]

форумы  помощь  поиск  регистрация  майллист  вход/выход  слежка  RSS
"Новая версия MPTCP (Multipath TCP) для Linux"
Вариант для распечатки  
Пред. тема | След. тема 
Форум Разговоры, обсуждение новостей
Изначальное сообщение [ Отслеживать ]

"Новая версия MPTCP (Multipath TCP) для Linux"  +/
Сообщение от opennews (ok) on 29-Июл-13, 21:31 
Для ядра Linux доступна (http://multipath-tcp.org/pmwiki.php/Main/Release87) новая версия (0.87) расширения MPTCP (http://multipath-tcp.org) (MultiPath TCP), которое позволяет организовать (http://multipath-tcp.org/pmwiki.php/Users/ConfigureRouting) работу TCP-соединения с доставкой пакетов одновременно по нескольким маршрутам через разные сетевые интерфейсы, привязанные к разным IP-адресам. Для сетевых приложений подобное агрегированное соединение выглядит как обычное TCP-соединение, вся логика разделения потоков выполняется силами MPTCP.


Multipath TCP может использоваться как для расширения пропускной способности, так и для увеличения надёжности. В качестве одного из практических применений Multipath TCP для обычных пользователей упоминается возможность организации передачи данных на смартфоне, с использованием одновременно линков WiFi и 3G. Для серверных систем Multipath TCP может обеспечить сокращение расходов за счёт использования нескольких дешевых линков вместо одного более дорогого.


Новая версия выполнена в виде патча для ядра Linux 3.10. Бинарные пакеты собраны (http://multipath-tcp.org/pmwiki.php?n=Users.AptRepository) для Ubuntu  (amd64) и Debian (amd64, i386).

В отличие от прошлого варианта патча, в новой версии добавлена поддержка аппаратного ускорения TSO/LRO, увеличена производительность, обеспечена поддержка таких средств снятия нагрузки в процессе обработки сетевых соединений, как TCP zero-copy (sendfile и splice) и NET_DMA (http://cateee.net/lkddb/web-lkddb/NET_DMA.html). Обеспечена возможность использования NFS поверх линков, созданных с использованием Multipath TCP.


URL: http://multipath-tcp.org/pmwiki.php/Main/Release87
Новость: https://www.opennet.ru/opennews/art.shtml?num=37541

Ответить | Правка | Cообщить модератору

Оглавление

Сообщения по теме [Сортировка по времени | RSS]


1. "Новая версия MPTCP (Multipath TCP) для Linux"  –2 +/
Сообщение от pavlinux (ok) on 29-Июл-13, 21:31 
Разделение идет в пределах одного TCP_CONNECT или умеет фрагментировать пакеты?
В классическом Multipath поддержка должна быть у клиента и у сервера.

# This creates two different routing tables, that we use based on the source-address.
  ip rule add from 10.1.1.2 table 1
  ip rule add from 10.1.2.2 table 2

  # Configure the two different routing tables
  ip route add 10.1.1.0/24 dev eth0 scope link table 1
  ip route add default via 10.1.1.1 dev eth0 table 1

  ip route add 10.1.2.0/24 dev eth1 scope link table 2
  ip route add default via 10.1.2.1 dev eth1 table 2

  # default route for the selection process of normal internet-traffic
  ip route add default scope global nexthop via 10.1.1.1 dev eth0

Прекрасно! Какой критерий определения, что нужен nexthop, RR/CFQ/FIFO/RANDOM?  


ip link set dev eth0 multipath backup

Замечательно, только по-моему это называется Load Balance/HA/Multi routing,...

"This server (multipath-tcp.org) is running the latest build of our kernel and has two
interfaces. Thus, every time you connect to this server you will be using MPTCP and
create at least two subflows."
  
Ну с этого бы и начинали...

Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

9. "Новая версия MPTCP (Multipath TCP) для Linux"  +/
Сообщение от anonymous (??) on 29-Июл-13, 22:49 
>[оверквотинг удален]
>
 
> ip link set dev eth0 multipath backup
>

> Замечательно, только по-моему это называется Load Balance/HA/Multi routing,...
> "This server (multipath-tcp.org) is running the latest build of our kernel and
> has two
> interfaces. Thus, every time you connect to this server you will be
> using MPTCP and
> create at least two subflows."
> Ну с этого бы и начинали...

Приведенный пример как балансировка нагрузки - полная ерунда.
Часть протоколов/сайтов банально не будет в этим работать - один раз запрос пришел с одного адреса, другой раз - с другого... Как минимум - можно ожидать проблем со всеми личными кабинетами в банках и т.д., где такие фокусы будут отслеживаться серверной стороной более ревностно, чем на обычном сайте.
Подробнее: несмотря на то, что маршруты кэшируются (т.е. путь к одно и тому же хосту будет ходить через один и тот же линк), к связанному с ним хосту, но на другом айпи - он может пойти уже через другой линк.
Ну и вообще, приведенный пример с использованием iproute2 - это сетевой уровень. MPTCP - это уже транспортный уровень. Так же, если Вы будете качать файл в один tcp-поток, балансировка нагрузки на сетевом уровне никак не поможет, а на транспортном - поможет.

Ответить | Правка | ^ к родителю #1 | Наверх | Cообщить модератору

15. "Новая версия MPTCP (Multipath TCP) для Linux"  +7 +/
Сообщение от pavlinux (ok) on 30-Июл-13, 02:03 
> Приведенный пример как балансировка нагрузки - полная ерунда.

Молодец! Это пример с их сайта :)

Ответить | Правка | ^ к родителю #9 | Наверх | Cообщить модератору

25. "Новая версия MPTCP (Multipath TCP) для Linux"  +1 +/
Сообщение от Аноним (??) on 30-Июл-13, 15:13 
> Молодец! Это пример с их сайта :)

Trolling win :).

Ответить | Правка | ^ к родителю #15 | Наверх | Cообщить модератору

35. "Новая версия MPTCP (Multipath TCP) для Linux"  +/
Сообщение от anonymous (??) on 30-Июл-13, 18:45 
>> Приведенный пример как балансировка нагрузки - полная ерунда.
> Молодец! Это пример с их сайта :)

Невнимательно посмотрел на пример, подумал, что это балансировка через iproute2.

Ответить | Правка | ^ к родителю #15 | Наверх | Cообщить модератору

26. "Новая версия MPTCP (Multipath TCP) для Linux"  +/
Сообщение от Аноним (??) on 30-Июл-13, 15:13 
> Часть протоколов/сайтов банально не будет в этим работать

А вот MPTCP - будет. В этом то его прелесть как раз.

Ответить | Правка | ^ к родителю #9 | Наверх | Cообщить модератору

11. "Новая версия MPTCP (Multipath TCP) для Linux"  +/
Сообщение от Аноним (??) on 29-Июл-13, 23:44 
LARTC бы открыл, что ли, раз уже даже man ip-route для тебя слишком сложен. Пакеты по маршрутам с одинаковыми метриками балансируются RR в равной пропорции (с поправкой на кэширование маршрутов).
Ответить | Правка | ^ к родителю #1 | Наверх | Cообщить модератору

16. "Новая версия MPTCP (Multipath TCP) для Linux"  +/
Сообщение от pavlinux (ok) on 30-Июл-13, 02:04 
> LARTC бы открыл

Ещё один теоретик,

1. LARTC устарел уже лет на 15 точно.
2. RFC по MPTCP только в январе придумали, какие в песту FAQи  
3. Кроме RR есть ещё CBQ/HTB/HFSC/SFB/SFQ/TEQL/QFQ/... и ещё туева хуча, появившихся с момента написания LARTC.

Ответить | Правка | ^ к родителю #11 | Наверх | Cообщить модератору

39. "Новая версия MPTCP (Multipath TCP) для Linux"  +/
Сообщение от Аноним (??) on 30-Июл-13, 22:18 
>Кроме RR есть ещё CBQ/HTB/HFSC/SFB/SFQ/TEQL/QFQ/...

Речь не про очередь пакетов у интерфейса, а про вес маршрута, при выборе последнего. Ты QoS с маршрутизацией не путай. Маршруты выбираются в ядре только по WRR.

Ответить | Правка | ^ к родителю #16 | Наверх | Cообщить модератору

45. "Новая версия MPTCP (Multipath TCP) для Linux"  +/
Сообщение от pavlinux (ok) on 31-Июл-13, 02:49 
Планировщик пакетов и QoS ваще в разных измерения живут.
Хотя да, для юзера Интернет и Браузер - это одна х...я.


Ответить | Правка | ^ к родителю #39 | Наверх | Cообщить модератору

47. "Новая версия MPTCP (Multipath TCP) для Linux"  +2 +/
Сообщение от Аноним (??) on 31-Июл-13, 16:37 
>CBQ/HTB/HFSC/SFB/SFQ/TEQL/QFQ

Зачем тогда сам пишешь про все эти планировщики очередей пакетов, используемых для QoS?

Открой исходники ядра хотя бы, кроме WRR других алгоритмов балансировки маршрутов нет.

Ответить | Правка | ^ к родителю #45 | Наверх | Cообщить модератору

21. "Новая версия MPTCP (Multipath TCP) для Linux"  +/
Сообщение от Аноним (??) on 30-Июл-13, 08:47 
> # This creates two

1. Без автономки это работает криво.
2. С автономкой это работает криво наполовину, но работает для исходящего трафика.
3. К теме это все мало относится.

Ответить | Правка | ^ к родителю #1 | Наверх | Cообщить модератору

48. "Новая версия MPTCP (Multipath TCP) для Linux"  +/
Сообщение от друг pavlinux on 01-Авг-13, 08:12 
согласен

Ответить | Правка | ^ к родителю #1 | Наверх | Cообщить модератору

2. "Новая версия MPTCP (Multipath TCP) для Linux"  +/
Сообщение от Аноним (??) on 29-Июл-13, 21:44 
Я вот тоже не понимаю зачем этот MultiPath TCP. И чем от отличается от примера выше.  
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

3. "Новая версия MPTCP (Multipath TCP) для Linux"  +/
Сообщение от Васисуалий on 29-Июл-13, 21:51 
Вроде наружу ( для приложения ) это будет один стрим .
Как то так , по моему .
Ответить | Правка | ^ к родителю #2 | Наверх | Cообщить модератору

12. "Новая версия MPTCP (Multipath TCP) для Linux"  +/
Сообщение от Аноним (??) on 29-Июл-13, 23:48 
> Я вот тоже не понимаю зачем этот MultiPath TCP. И чем от
> отличается от примера выше.

Тем, что без MPTCP в примере выше пакеты будут уходить с разных интерфейсов и, соответственно, восприниматься принадлежащими к разным сессиям, т.о., если сессия началась на одном интерфейсе, то приходящие по другому интерфейсу пакеты восприниматься, как невалидные. Конечно, кэширование маршрутов несколько сгладит проблему, но ребалансировку на лету при падении одного из каналов уже не обеспечит.

Ответить | Правка | ^ к родителю #2 | Наверх | Cообщить модератору

4. "Новая версия MPTCP (Multipath TCP) для Linux"  +/
Сообщение от Аноним (??) on 29-Июл-13, 22:13 
чего сразу не B.A.T.M.A.N нативный ? :)
https://en.wikipedia.org/wiki/B.A.T.M.A.N.
какие-то костыли multipath из эпохи 1990х городить, тьфу...
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

7. "Новая версия MPTCP (Multipath TCP) для Linux"  +/
Сообщение от pavlinux (ok) on 29-Июл-13, 22:47 
Request for Comments: 6824,  January 2013
TCP Extensions for Multipath Operation with Multiple Addresses

http://tools.ietf.org/html/rfc6824

Ну да, почти 90-х. :)

Ответить | Правка | ^ к родителю #4 | Наверх | Cообщить модератору

44. "Новая версия MPTCP (Multipath TCP) для Linux"  +/
Сообщение от Аноним (??) on 31-Июл-13, 00:18 
по дизайну решения и по самому подходу к и (декларируемому)решению - читый 1992 год.
лютый засил irc и без http 0.9 ишшо. все дружно юзают Gopher, UUCP и AOL/Prodigy/MSDN
Ответить | Правка | ^ к родителю #7 | Наверх | Cообщить модератору

27. "Новая версия MPTCP (Multipath TCP) для Linux"  +/
Сообщение от Аноним (??) on 30-Июл-13, 15:15 
> чего сразу не B.A.T.M.A.N нативный ? :)

Ээээ batman в ядре уже есть, нативнее вроде просто некуда :).

Ответить | Правка | ^ к родителю #4 | Наверх | Cообщить модератору

5. "Новая версия MPTCP (Multipath TCP) для Linux"  –2 +/
Сообщение от Аноним (??) on 29-Июл-13, 22:15 
лучше бы СС пилили.
а то половина реализаций бородатого ECN - не дружит с третью реализаций SynCookie а уж CTCP и DCTCP - вообще мало где есть, увы :(
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

6. "Новая версия MPTCP (Multipath TCP) для Linux"  –3 +/
Сообщение от AlexAT (ok) on 29-Июл-13, 22:46 
Здоровская штука. Жаль, что почти никем пока не поддерживается. Очень удобно тем, у кого два и более линка во внешний мир - мне, например.
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

8. "Новая версия MPTCP (Multipath TCP) для Linux"  –2 +/
Сообщение от pavlinux (ok) on 29-Июл-13, 22:48 
> мне, например.

Ой напугал,... ща воткну Йоту, мобилу, ADSL и 3 хакнутых соседских вайфая, и устрою тут мультифлуд :)


Ответить | Правка | ^ к родителю #6 | Наверх | Cообщить модератору

10. "Новая версия MPTCP (Multipath TCP) для Linux"  –3 +/
Сообщение от AlexAT (ok) on 29-Июл-13, 22:52 
Не, у меня реально два симметричных линка - для отказоустойчивости. А ёты и прочее - да, в качестве крайнего резерва.
По теме - сомневаюсь, что гугл на мобилки это быстро запихнёт :)
Пойду компилять под центос, давненько не брал в руки шашек...
Ответить | Правка | ^ к родителю #8 | Наверх | Cообщить модератору

38. "Новая версия MPTCP (Multipath TCP) для Linux"  +/
Сообщение от Крот (??) on 30-Июл-13, 22:10 
А какие роутеры поддерживают два коннекта? Ставить ради этого комп не охота
Ответить | Правка | ^ к родителю #10 | Наверх | Cообщить модератору

14. "Новая версия MPTCP (Multipath TCP) для Linux"  +/
Сообщение от YetAnotherOnanym (ok) on 30-Июл-13, 00:47 
> Йоту, мобилу, ADSL и 3 хакнутых соседских вайфая

и с каждого - через тор, для полноты щястья.

Ответить | Правка | ^ к родителю #8 | Наверх | Cообщить модератору

29. "Новая версия MPTCP (Multipath TCP) для Linux"  +/
Сообщение от Аноним (??) on 30-Июл-13, 15:16 
> Здоровская штука. Жаль, что почти никем пока не поддерживается.

А оно и не должно никем поддерживаться кроме твоих хостов между которыми ты трафф гонять будешь через несколько линков :).

Хинт: так можно в принципе агрегировать трафф на чем-то типа VPN сервера, обеспечив повышенную суммарную скорость и автоматическое прозрачное переключение каналов интернета :).

Ответить | Правка | ^ к родителю #6 | Наверх | Cообщить модератору

13. "Новая версия MPTCP (Multipath TCP) для Linux"  –1 +/
Сообщение от Аноним (??) on 30-Июл-13, 00:36 
Интересео - поймут они с солярой друг друга? А то я IPMP давно и успешно юзаю :)
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

17. "Новая версия MPTCP (Multipath TCP) для Linux"  +1 +/
Сообщение от pavlinux (ok) on 30-Июл-13, 02:22 
А под соляркой уже запускается ядро линух? :Э
Ответить | Правка | ^ к родителю #13 | Наверх | Cообщить модератору

18. "Новая версия MPTCP (Multipath TCP) для Linux"  –3 +/
Сообщение от Аноним (??) on 30-Июл-13, 03:49 
Я конечно понимал что ты деб^W странный, но надеялся что ты хоть великий и могучий петраешь ...
Ну бывает, сделаею поправку на чурк^W на гостей столицы, ещё раз большими малиновыми буквами:

В Соляре IP_M_ulti_P_ath хрен знает ужо сколько. Вот и интересно поймут они друг друга или как обычно ...

Ответить | Правка | ^ к родителю #17 | Наверх | Cообщить модератору

22. "Новая версия MPTCP (Multipath TCP) для Linux"  +/
Сообщение от Ващенаглухо email(ok) on 30-Июл-13, 09:01 
IPMP в соляре это севсем не то, о чем написано в новосте. Там оно используется для только для отказоустойчивости и одновременно ничего никуда не идет.
Ответить | Правка | ^ к родителю #18 | Наверх | Cообщить модератору

24. "Новая версия MPTCP (Multipath TCP) для Linux"  +/
Сообщение от Аноним (??) on 30-Июл-13, 15:00 
> IPMP в соляре это севсем не то, о чем написано в новосте.
> Там оно используется для только для отказоустойчивости и одновременно ничего никуда
> не идет.

Маны кури. Там т а щ е м т а  настоящий мультипасинг реализован действительно лет 20 тому как.

Ответить | Правка | ^ к родителю #22 | Наверх | Cообщить модератору

50. "Новая версия MPTCP (Multipath TCP) для Linux"  +/
Сообщение от Ващенаглухо email(ok) on 05-Авг-13, 10:08 
Да что вы говорите, ну приведите хотя бы простенький пример. Где для передачи будет использоваться одновременно более 1 линка. Этот ipmp failover-ный. А про то, о чем вы говорите это agregation, нормально работающий начиная с 10ки
Ответить | Правка | ^ к родителю #24 | Наверх | Cообщить модератору

30. "Новая версия MPTCP (Multipath TCP) для Linux"  +/
Сообщение от Аноним (??) on 30-Июл-13, 15:18 
> друг друга или как обычно ...

Как обычно, ибо MPTCP - это отдельное расширение протокола TCP, позволяющее явно открывать новые потоки и прочая. Для софта все выглядит как будто это одно и то же соединение - новые потоки кернель поднимает. Хотя если софт желает явно знать топологию - это предусмотрено.

Ответить | Правка | ^ к родителю #18 | Наверх | Cообщить модератору

19. "Новая версия MPTCP (Multipath TCP) для Linux"  +2 +/
Сообщение от Аноним (??) on 30-Июл-13, 05:14 
Зачем?? Есть же STCP - его продвигать надо!
http://www.ibm.com/developerworks/ru/library/l-sctp/index.ht...
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

20. "Новая версия MPTCP (Multipath TCP) для Linux"  –6 +/
Сообщение от Аноним (??) on 30-Июл-13, 07:24 
Тебя забыли спросить,
что продвигать надо.
Ответить | Правка | ^ к родителю #19 | Наверх | Cообщить модератору

31. "Новая версия MPTCP (Multipath TCP) для Linux"  –1 +/
Сообщение от Аноним (??) on 30-Июл-13, 15:19 
> Зачем?? Есть же STCP - его продвигать надо!

Ну так продвигай. А как по мне - эта штука куда как менее радикальна и имеет коронный бонус: в лучшем случае софт можно совсем не переделывать, но плюсы поиметь получится :).

Ответить | Правка | ^ к родителю #19 | Наверх | Cообщить модератору

34. "Новая версия MPTCP (Multipath TCP) для Linux"  +1 +/
Сообщение от edwin email(??) on 30-Июл-13, 17:47 
> Зачем?? Есть же STCP - его продвигать надо!
> http://www.ibm.com/developerworks/ru/library/l-sctp/index.ht...

Не факт, что надо.
Весьма сложный протокол, который изначально затачивался для решения весьма узких задач ... нажрался я ним в свое время в телекоме но самое немогу, когда свое понимание вендора + сырость реализации к таким артефактам приводили ... извините, но тогдашний циркодром с проблемами ОСК7 мне до сих пор по ночам снится ... как изощренный кошмар


Ответить | Правка | ^ к родителю #19 | Наверх | Cообщить модератору

36. "Новая версия MPTCP (Multipath TCP) для Linux"  –1 +/
Сообщение от некто on 30-Июл-13, 19:01 
Так вот и надо стандартизацию и тестирование. Можно подумать другие (IPX|IP|TCP|UDP|*) были сразу готовы. Кроме того - эта новая фича также требует изменение и поддержки как клиента так и сервера иначе толку - NULL.
А что легче с нуля соорудить на основе стандарта или многолетние наслоения готовых программ тревожить?? Думаю ответ очевиден.
Ответить | Правка | ^ к родителю #34 | Наверх | Cообщить модератору

40. "Новая версия MPTCP (Multipath TCP) для Linux"  +/
Сообщение от AlexAT (ok) on 30-Июл-13, 22:20 
Вон "очевидный ответ" в виде IPv6 уже соорудили "с нуля". Да так, что почти 20 лет уже в обед, а внедрения всё нет.
Ответить | Правка | ^ к родителю #36 | Наверх | Cообщить модератору

46. "Новая версия MPTCP (Multipath TCP) для Linux"  +/
Сообщение от iZEN (ok) on 31-Июл-13, 15:24 
> Вон "очевидный ответ" в виде IPv6 уже соорудили "с нуля". Да так,
> что почти 20 лет уже в обед, а внедрения всё нет.

IPv6 тормозится из-за существующей инфраструктуры роутинга с NAT, которой "всем достаточно" и ничего нового больше не нужно. Вложения в IPv4/NAT уже сто раз себя окупили и дадут ещё подзаработать не одному поколению админов-сетевиков. А вот инвестиции в IPv6 ещё не определены толком, кому-чего давать, чтобы хорошо и долго работало — NAT IPv4 стала преградой для продвижения IPv6 вследствие своей "кормушечной" природы (многие от наличия NAT кормятся и, кстати, не без успеха проталкивают эту ненужность в IPv6). ;)

Ответить | Правка | ^ к родителю #40 | Наверх | Cообщить модератору

23. "Новая версия MPTCP (Multipath TCP) для Linux"  +/
Сообщение от Аноним (??) on 30-Июл-13, 11:37 
Должен ли удаленный сервер иметь поддержку MultiPath TCP, чтоб вся это магия заработала или же это всё будет замечательно работать уже сейчас со всеми существующими серверами в Интернете?

Если только один из линков на машине будет иметь реальный IP, а на остальных будет использоваться NAT, то MultiPath TCP будет ли работать и получать преимущества от всех этих линков?

Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

32. "Новая версия MPTCP (Multipath TCP) для Linux"  +/
Сообщение от Аноним (??) on 30-Июл-13, 15:20 
> Должен ли удаленный сервер иметь поддержку MultiPath TCP,

Ну разумеется. Зато между своими хостами так трафф гонять милое дело: промежуточные узлы которые не в курсе что такое MPTCP никак особо мешать не будут. В самом плохом случае оно просто деграднет до 1-поточного классического TCP :)

Ответить | Правка | ^ к родителю #23 | Наверх | Cообщить модератору

33. "Новая версия MPTCP (Multipath TCP) для Linux"  +1 +/
Сообщение от Аноним (??) on 30-Июл-13, 16:43 
А как же снифферы и СОРМ-2, они шо пострадают?
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

37. "Новая версия MPTCP (Multipath TCP) для Linux"  +/
Сообщение от iZEN (ok) on 30-Июл-13, 19:07 
Конечно. Так шта, пока не придумают, как увязать СОРМ с этим чудом, в продакшене MPTCP не жди и не надейся!
Ответить | Правка | ^ к родителю #33 | Наверх | Cообщить модератору

49. "Новая версия MPTCP (Multipath TCP) для Linux"  +/
Сообщение от Аноним (??) on 04-Авг-13, 16:37 
Они изобрели заново мультиплексор для TCP ?
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

51. "Новая версия MPTCP (Multipath TCP) для Linux"  +/
Сообщение от edo (ok) on 19-Авг-13, 01:23 
а какие уже изобретённые Вы знаете?
Ответить | Правка | ^ к родителю #49 | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Спонсоры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2022 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру