The OpenNET Project / Index page

[ новости /+++ | форум | wiki | теги | ]

Выпуск Pyston 0.6, реализации языка Python с JIT-компилятором

23.11.2016 18:33

Увидел свет релиз проекта Pyston 0.6, в рамках которого компанией Dropbox, в которой работает Гвидо ван Россум, развивается высокопроизводительная реализация языка Python, созданная с использованием наработок проекта LLVM. Реализация примечательна применением современных технологий JIT-компиляции и нацелена на достижение высокой производительности, близкой к производительности традиционных системных языков, таких как C++. Код Pyston написан на языке C++ и распространяется под лицензией Apache.

В отличие от проекта PyPy, также продвигающего идею применения JIT для ускорения выполнения Python-скриптов, в Pyston используется не трассирующий JIT, базирующийся на компиляции в машинный код часто выполняемых циклов, а применяемый в современных JavaScript-движках JIT на основе трансляции отдельных методов (method-at-a-time), который, по мнению инженеров Dropbox, является более перспективной технологией. Принцип работы Pyston сводится к разбору кода на языке Python и его трансляции в промежуточное представление LLVM (IR, Intermediate Representation). Далее IR-представление проходит обработку в оптимизаторе LLVM и передаётся для исполнения в JIT-движок LLVM, который преобразует IR-представление в машинный код.

Для получения информации о типах переменных для программ на динамическом языке Python применяется техника вероятностного предсказания типов объектов с последующим уточнением правильности выбора типа в процессе выполнения. Таким образом Pyston постоянно варьирует выполнение между двумя ветками - быстрой, когда данные о предсказанных типах подтверждаются, и медленной, используемой в случае рассогласования данных о типе. Работа может осуществляться в многопоточном режиме, допускающем параллельное выполнение нескольких нитей кода на языке Python и избавленном от глобальной блокировки интерпретатора (GIL, global interpreter lock).

При подготовке новой версии основное внимание было уделено снижению потребления памяти. Одним из главных шагов для уменьшения потребления памяти стал уход от древовидного представления инструкций интерпретатора в пользу хранения в форме реального байткода. Инструкции теперь следуют одна за другой в памяти без дробления с использованием указателей. Кроме уменьшения размера потребляемой памяти подобный подход также позволяет достичь более агрессивного освобождения неиспользуемой памяти. Например, после компиляции при помощи LLVM JIT часто используемых функций, теперь можно освободить память, в которой размешался код, ранее подготовленный с применением встроенного JIT. Потребление памяти также сокращено за счёт повышения эффективности стадий анализа кода и устранению утечек памяти. В итоге, в некоторых тестах потребление памяти снизилось до двух раз, по сравнению с Pyston 0.5.1;

В новом выпуске также представлена большая порция исправлений, устраняющих проблемы совместимости с CPython. Для упрощения замены CPython на Pyston проведена унификация структуры директорий и порядка следования записей в типе dict. Изменения позволили добиться выполнения в Pyston немодифицированных программ pip и virtualenv.

Что касается производительности, то несмотря на то, что специальных оптимизиаций не добавлялось, при оценке производительности операций при помощи библиотеки NumPy, Pyston уже приблизился к CPython, а в некоторых тестах даже немного обгоняет его.



  1. Главная ссылка к новости (https://blog.pyston.org/2016/1...)
  2. OpenNews: Выпуск PyPy2.7 5.6, реализации Python, написанной на языке Python
  3. OpenNews: Выпуск Cython 0.25, компилятора для языка Python
  4. OpenNews: Выпуск PyPy3 5.5, реализации Python 3, написанной на языке Python
  5. OpenNews: Выпуск Pyston 0.5.1, реализации языка Python с JIT-компилятором
  6. OpenNews: Увидел свет язык программирования Python 3.5.0
Лицензия: CC-BY
Тип: Программы
Короткая ссылка: https://opennet.ru/45547-python
Ключевые слова: python, pyston
При перепечатке указание ссылки на opennet.ru обязательно
Обсуждение (20) Ajax | 1 уровень | Линейный | +/- | Раскрыть всё | RSS
  • 1.1, анонимус вульгарис (?), 18:45, 23/11/2016 [ответить] [﹢﹢﹢] [ · · · ]  
  • +10 +/
    Жрёт всего втрое больше памяти, чем cpython, и приближается к нему по производительности? Это успех!
     
     
  • 2.4, Пиони (?), 19:30, 23/11/2016 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Тоже не очень понимаю, в чём успех заключается
     
     
  • 3.5, Пиони (?), 19:32, 23/11/2016 [^] [^^] [^^^] [ответить]  
  • +/
    Хотя нет, они избавились от GIL - значит многопоточный код станет шустрее в разы ядер
     
     
  • 4.9, Xasd (ok), 23:45, 23/11/2016 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > они избавились от GIL - значит многопоточный код станет шустрее в разы ядер

    в общем случае -- не станет. (а станет только для некоторых ситуаций)

    GIL не мешает одновременной работе нескольких нитей, а всего-лишь препятствует одновременному выполнению ПИТОНОВСКИХ операций в них. (то есть -- так как большую часть времени код находится внутри Native-функций, избавление от GIL не сильно тут на что-то повлияет)

     
     
  • 5.16, Аноним (-), 11:02, 24/11/2016 [^] [^^] [^^^] [ответить]  
  • +/
    В реальном мире и реальном софте как раз основное время ты тратишь на питоновские операции.
     
     
  • 6.18, KonstantinB (ok), 11:34, 24/11/2016 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Если ты пишешь вычислительный софт на python - то да. Но это вообще не лучший выбор языка.

    А, скажем, в вебдеве ровно наоборот.

     
     
  • 7.25, Аноним (-), 14:44, 27/11/2016 [^] [^^] [^^^] [ответить]  
  • +/
    > Если ты пишешь вычислительный софт на python - то да.

    Если ты пишешь вычислительный софт на python, то пишешь с использованием numpy или чего-то такого. Тогда GIL освобождается и приложение может задействовать несколько ядер.

     
  • 2.10, ADR (ok), 01:34, 24/11/2016 [^] [^^] [^^^] [ответить]  
  • +/
    Numpy работает почти одинаково, а Python-код в Pyston работает в разы быстрее.

    И в отличии от PyPy тебе не нужно запускать в весь код в Pyston, а только отдельные функции.

    Типа:
    @jit
    def hard_work():
        ...

     

  • 1.3, Crazy Alex (ok), 19:26, 23/11/2016 [ответить] [﹢﹢﹢] [ · · · ]  
  • +1 +/
    Я чего-то сильно не понимаю, или они бенчили numpy, который 99.9 времени проводит в сишных расширениях?
     
     
  • 2.6, Аноним84701 (ok), 19:41, 23/11/2016 [^] [^^] [^^^] [ответить]  
  • +/
    > Я чего-то сильно не понимаю, или они бенчили numpy, который 99.9 времени
    > проводит в сишных расширениях?

    Я так понял, там речь шла именно о numpy:
    > Aside: NumPy performance
    > NumPy hasn’t been a priority for us, but from time to time we check on how well we can run it.  
    > We’ve focused on compatibility in the past, but for this post we took a look into performance as well.  
    > We don’t have any NumPy-specific optimizations, so we were happy to see this graph from PyPy’s numpy
    > benchmark runner:

    Дело в том, что нормально запустить оный получилось только в 0.5
    https://blog.pyston.org/2016/05/25/pyston-0-5-released/
    > We are very happy to announce: we can run NumPy, unmodified.
    > Specifically: on their latest release (v1.11), we run their entire test suite with one test

    И как раз были проблемы со скоростью:
    > Currently, we take about twice as long to run the NumPy test suite as CPython does.

    Так-то там ссылка на более "общие" (но не менее вакуумно-синтетические) бенчи:
    http://speed.pyston.org/comparison/?exe=1+L+default,2+L+default,12+L+default&

     

  • 1.13, Аноним (-), 08:12, 24/11/2016 [ответить] [﹢﹢﹢] [ · · · ]  
  • +1 +/
    > развивается **высокопроизводительная реализация** языка Python, созданная с использованием наработок проекта LLVM
    > Pyston уже приблизился к CPython, а в некоторых тестах даже немного обгоняет его.

    это победа :D

     
     
  • 2.17, Аноним (-), 11:08, 24/11/2016 [^] [^^] [^^^] [ответить]  
  • +1 +/
    У них есть и нормальные бенчмарки не в numpy. А с numpy да, действительно победа, потому что у того же pypy большие проблемы с работой с numpy и с обычными сишными расширениями.

    http://speed.pyston.org/comparison/?exe=1%2BL%2Bdefault%2C2�

     

  • 1.14, Аниним (?), 08:19, 24/11/2016 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Уже видели промер на rubinius
     
  • 1.15, Аноним (-), 09:53, 24/11/2016 [ответить] [﹢﹢﹢] [ · · · ]  
  • +2 +/
    А ведь допилят! ЗП у Ван Россума, по наитию, тысяч 20 уе в месяц, и DropBox не самая захудалая контора. Работай - не хочу. Это идеальный случай для СПО - фикси работа в проекте мирового уровня, когда тебе никто не гнебет за отвлекания.  

    Кто не знает, DropBox - это единственное облако, которое поддерживает низкоуровневое постраничное обновление больших файлов (архивов в т.ч. зашифрованных, криптоконтейнеров итп). На практике это выливается в 10-кратную экономию трафика. То что DropBox написан на Питоне, конечно же, случайность (просто повезло). Хотя ни разу еще не сталкивался с необходимостью ускорения работы кода на Питоне - радуюсь новости.

     
     
  • 2.19, Аноним (-), 11:49, 24/11/2016 [^] [^^] [^^^] [ответить]  
  • +2 +/
    >  Хотя ни разу еще не сталкивался с необходимостью ускорения работы кода на Питоне

    Блаженный

     
     
  • 3.22, Owlet (?), 20:12, 24/11/2016 [^] [^^] [^^^] [ответить]  
  • +2 +/
    Может он просто в курсе, что тормозят программы, а не языки, и умеет их писать? Или, например, не пытался использовать чистый питон для числодробилок?
     
  • 2.20, KonstantinB (ok), 15:28, 24/11/2016 [^] [^^] [^^^] [ответить]  
  • +2 +/
    Дропбокс изначально весь сделан одним человеком, который написал на том, что лучше знает. А потом он внезапно взлетел.
     

  • 1.21, DVDV (?), 17:31, 24/11/2016 [ответить] [﹢﹢﹢] [ · · · ]  
  • +1 +/
    Какой извилистый, сложный путь обратно к си...
     
     
  • 2.23, Аноним (-), 19:39, 26/11/2016 [^] [^^] [^^^] [ответить]  
  • +/
    Основной интерпретатор Python, внезапно, написан на C, поэтому и называется CPython.
     
  • 2.24, Аноним (-), 01:58, 27/11/2016 [^] [^^] [^^^] [ответить]  
  • +/
    так велосипедисты же!
    важен сам процесс, а не результат.
     

     Добавить комментарий
    Имя:
    E-Mail:
    Текст:



    Спонсоры:
    Inferno Solutions
    A-Real
    Hosting by Hoster.ru
    Хостинг:

    Закладки на сайте
    Проследить за страницей
    Created 1996-2021 by Maxim Chirkov
    Добавить, Поддержать, Вебмастеру