The OpenNET Project / Index page

[ новости /+++ | форум | wiki | теги | ]



"Netflix предложил реализацию алгоритма контроля перегрузок T..."
Вариант для распечатки  
Пред. тема | След. тема 
Форум Разговоры, обсуждение новостей
Изначальное сообщение [ Отслеживать ]

"Netflix предложил реализацию алгоритма контроля перегрузок T..."  +/
Сообщение от opennews (??), 10-Сен-19, 22:11 
Для FreeBSD компанией Netflix подготовлена реализация алгоритма контроля перегрузок TCP (congestion control) BBR (Bottleneck Bandwidth and RTT), который позволяет значительно увеличить пропускную способность и сократить задержки передачи данных. В BBR применяются методы моделирования канала связи, прогнозирующие имеющуюся пропускную способность через последовательные проверки и оценку времени приема-передачи (RTT), без доведения канала связи до начала потери пакетов или задержек в передаче.

Подробнее: https://www.opennet.ru/opennews/art.shtml?num=51463

Ответить | Правка | Cообщить модератору

Оглавление

Сообщения [Сортировка по времени | RSS]


1. "Netflix предложил реализацию алгоритма контроля перегрузок T..."  +7 +/
Сообщение от Аноним (-), 10-Сен-19, 22:11 
Это, видимо, Netflix так избавляется от FreeBSD в продакшене, да?
Как сифилитик в том анекдоте:

Посадили в тюрьму наркомана и сифилитика. Сидят, у сифилитика нос
отвалился, тот его берет и выкидывает за решетку. Затем ухо
отваливается, сифилитик выкидывает его за решетку. Со вторым ухом такая
же ситуация. Наркоман смотрел, смотрел и говорит: - Я смотрю ты
потихоньку отсюда съ^W сваливаешь?

Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

2. "Netflix предложил реализацию алгоритма контроля перегрузок T..."  +17 +/
Сообщение от qwerty123 (??), 10-Сен-19, 22:32 
>Это, видимо, Netflix так избавляется от FreeBSD в продакшене, да?

Да, 1 сентября сильно ударило по аналитическому сообществу...

Ответить | Правка | ^ к родителю #1 | Наверх | Cообщить модератору

16. "Netflix предложил реализацию алгоритма контроля перегрузок T..."  +/
Сообщение от Аноним (16), 11-Сен-19, 22:39 
Я думаю им просто надоело свои патчи поддерживать самостоятельно, к тому же в свете отказа от фрибсд они ещё и оказались ненужными.
Ответить | Правка | ^ к родителю #1 | Наверх | Cообщить модератору

6. "Netflix предложил реализацию алгоритма контроля перегрузок T..."  –2 +/
Сообщение от Ivan_83 (ok), 11-Сен-19, 04:14 
Возможно что это моя переписка в личке с одним из разрабов который там работает года 3-4 назад о том что линух при максимально одинаковых настройках отдаёт статик файлы в 2-5 раз быстрее фри на линках с ртт более 60мс и потерями - иницировала то что потом вылилось и rack и вот в это.
Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

7. "Netflix предложил реализацию алгоритма контроля перегрузок T..."  +13 +/
Сообщение от Анонимный прохожий (?), 11-Сен-19, 05:36 
> Возможно что это моя переписка в личке с одним из разрабов который там работает года 3-4 назад

Один знакомый таксист рассказывал дочке офицера...

Ответить | Правка | ^ к родителю #6 | Наверх | Cообщить модератору

13. "Netflix предложил реализацию алгоритма контроля перегрузок T..."  +/
Сообщение от Ivan_83 (ok), 11-Сен-19, 14:06 
Скорее инфа что линукс лучше отдаёт в таких условиях просто дошла до нужных ушей :)
Ответить | Правка | ^ к родителю #7 | Наверх | Cообщить модератору

8. "Netflix предложил реализацию алгоритма контроля перегрузок T..."  +3 +/
Сообщение от Catwoolfiiemail (ok), 11-Сен-19, 08:25 
>линух при максимально одинаковых настройках отдаёт статик файлы в 2-5 раз быстрее фри на линках с ртт более 60мс и потерями

Что-то на сказки похоже...

Ответить | Правка | ^ к родителю #6 | Наверх | Cообщить модератору

9. "Netflix предложил реализацию алгоритма контроля перегрузок T..."  –1 +/
Сообщение от Ivan_83 (ok), 11-Сен-19, 12:13 
Увы но нет.
Тестировал качая файлы с компа с вендой в другом городе в 5 часовых поясах, там последняя миля - вифи.
Те и rtt 70мс и потери.
Там где с фрёй получалось стабильно 300-600 килобайт/сек с линуксом было уже до 2 мегабайт/сек.
При этом был один и тот же конфиг nginx (с поправкой на kqueue()/epoll()), и максимально близкие тюнинги сетевого стёка, даже tcp cc был одинаковый - htcp с одинаковыми настройками.
Чтобы я ни делал с фрёй мне не удалось выжать скорости сопоставимые с линухом.
Это было на новый год, где то году в 2016 или 2017. С тех пор я столь обстоятельно не повторял тестирование.

С rack у меня проблема в том, что тот фреймворк который они добавили жрёт у меня проц весьма сильно в виртуалках на виртуалбоксе.

Ответить | Правка | ^ к родителю #8 | Наверх | Cообщить модератору

10. "Netflix предложил реализацию алгоритма контроля перегрузок T..."  +/
Сообщение от DeadLoco (ok), 11-Сен-19, 13:43 
Возможно, проблема именно в том, что "настройки максимально близкие". У фри все немножко более иначе, нежели чем. Она имеет специфические крутилки, и на такое же положение одинаковых ручек реагирует не так, как линукс.

Надо было выставлять не одинаковые настройки, а оптимальные для фри и оптимальные для линукса. И тогда уже сравнивать.

Ответить | Правка | ^ к родителю #9 | Наверх | Cообщить модератору

11. "Netflix предложил реализацию алгоритма контроля перегрузок T..."  +/
Сообщение от grsec (ok), 11-Сен-19, 13:52 
> У фри все немножко более иначе, нежели чем.

О этом все говорят, но что и как крутить не знают даже разрабы.

Ответить | Правка | ^ к родителю #10 | Наверх | Cообщить модератору

12. "Netflix предложил реализацию алгоритма контроля перегрузок T..."  +/
Сообщение от Ivan_83 (ok), 11-Сен-19, 14:04 
Когда я копался внутри там было видно что логикики в tcp cc коде и вокруг у линуха сильно больше.
В остальном там настройки были из серии о том, что Сысоев для нгинха рассказывал в 2007 году - те буфера. Из того о чём он не говорил было как раз выставление tcp cc = htcp и одинаковых настроек самого htcp.
Файл лился из tmpfs, да и с такими скоростями его хоть с флешки можно было читать.

В любом случае при таких скоростях всё сводилось к тому, что tcp во фре восстанавливал скорость после ошибок сильно хуже чем tcp в линуксе и ничего с этим было сделать невозможно.
Я пробовал и другие tcp cc, было примерно тоже самое - линукс всегда был лучше.

Ответить | Правка | ^ к родителю #10 | Наверх | Cообщить модератору

14. "Netflix предложил реализацию алгоритма контроля перегрузок T..."  –1 +/
Сообщение от qwerty123 (??), 11-Сен-19, 15:33 

исходный файл рандомный что б не жался

$ dd if=/dev/urandom of=AAA bs=1M count=256

bsd 2 bsd:

bsd1$ time scp AAA bsd2:/data/
AAA  100%  256MB  75.2MB/s   00:03    

real    0m6.418s
user    0m2.484s
sys    0m1.660s

debian 2 debian:

linux1$ time scp AAA linux2:/data/
AAA  100%  256MB  42.7MB/s   00:06    

real    0m10.855s
user    0m3.192s
sys    0m0.392s

криптография одинаковая.

вот такие котята.

Ответить | Правка | ^ к родителю #8 | Наверх | Cообщить модератору

15. "Netflix предложил реализацию алгоритма контроля перегрузок T..."  +/
Сообщение от Ivan_83 (ok), 11-Сен-19, 15:38 
А теперь тоже самое с rtt=70ms, и дропами пакетов на уровне 0,5-1% хотя бы.
Ответить | Правка | ^ к родителю #14 | Наверх | Cообщить модератору

17. "Netflix предложил реализацию алгоритма контроля перегрузок T..."  +/
Сообщение от qwerty123 (??), 11-Сен-19, 23:35 

>А теперь тоже самое с rtt=70ms

А где я тебе найду 70ms, если от Дублина до Воронежа максимум 50 могу выжать? =)
Шейпером как-то не комильфо.

Не, на самом деле фуфло все это. Я юзаю в проектах как linux разных сборок, так и freebsd.
В общем случае одинаково, и обе ложаться при предельных для шасси показателях PPS плюс-минус 5%.


Ответить | Правка | ^ к родителю #15 | Наверх | Cообщить модератору

20. "Netflix предложил реализацию алгоритма контроля перегрузок T..."  +/
Сообщение от Ivan_83 (ok), 12-Сен-19, 17:55 
Во фре кажется ng_car что то такое умел имитировать.
Или можешь бобины оптики по 100км штук 30 хотя бы, и вланами на свиче или медюками собрать мосты на требуемую длину :)

У меня москва-иркутск и в последнем вифи на последней миле (полёт минимум километр), по пути там неизвестно что творится :)
Одно время rtt был до 110, меньше 68 мс не видел.

Ответить | Правка | ^ к родителю #17 | Наверх | Cообщить модератору

21. "Netflix предложил реализацию алгоритма контроля перегрузок T..."  +/
Сообщение от Аноним (21), 13-Сен-19, 12:04 
вроде проще с ipfw pipe
Ответить | Правка | ^ к родителю #20 | Наверх | Cообщить модератору

18. "Netflix предложил реализацию алгоритма контроля перегрузок T..."  –1 +/
Сообщение от qwerty123 (??), 11-Сен-19, 23:40 
> А теперь тоже самое с rtt=70ms, и дропами пакетов на уровне 0,5-1% хотя бы.

мне это напомнило анекдот
---
а потом рабочие поставили в японскую пилораму рельсу.
хряк - сказала пила.
ага! - радостно сказали рабочие.
---

Ответить | Правка | ^ к родителю #15 | Наверх | Cообщить модератору

19. "Netflix предложил реализацию алгоритма контроля перегрузок T..."  +/
Сообщение от Аноним (19), 12-Сен-19, 09:24 
> а потом рабочие поставили в японскую пилораму рельсу.

Так Иван сразу в начале ветки и сказал про рельсу (про фиговое качество связи - задержки и потери пакетов). Следуя Вашей аналогии - японская пила на рельсе сказала "хряк" и разлетелась, а совковая "Дружба" сказала "ням-ням, вкусно, тащи следующую".

Ответить | Правка | ^ к родителю #18 | Наверх | Cообщить модератору

22. "Netflix предложил реализацию алгоритма контроля перегрузок T..."  +/
Сообщение от qwerty123 (??), 13-Сен-19, 12:20 
>Следуя Вашей аналогии

Для FreeBSD реализовано 8 (восемь) алгоритмов контроля перегрузок.
Все немного по разному себя ведут в разных ситуациях с полной загрузкой канала.

cc_cdg(4) - CDG Congestion Control Algorithm
cc_chd(4) - CHD Congestion Control Algorithm
cc_cubic(4) - CUBIC Congestion Control Algorithm
cc_dctcp(4) - DCTCP Congestion Control Algorithm
cc_hd(4) - HD Congestion Control Algorithm
cc_htcp(4) - H-TCP Congestion Control Algorithm
cc_newreno(4) - NewReno Congestion Control Algorithm
cc_vegas(4) - Vegas Congestion Control Algorithm


Бла-бла про совковые пилы оставте для своей курилки или что там у вас.

Ответить | Правка | ^ к родителю #19 | Наверх | Cообщить модератору

23. "Netflix предложил реализацию алгоритма контроля перегрузок T..."  +/
Сообщение от Qazzz (ok), 13-Сен-19, 16:36 
Мдее, аналитеги, посмотрите недавнее выступление netfix
https://itsfoss.com/netflix-freebsd-cdn/

видео
http://mirror.onet.pl/pub/mirrors/video.fosdem.org/2019/Jans...

Ответить | Правка | ^ к родителю #0 | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Спонсоры:
Слёрм
Inferno Solutions
Hosting by Ihor
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2019 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру