The OpenNET Project
 
Поиск (теги):    НОВОСТИ (+) КОНТЕНТ WIKI MAN'ы ФОРУМ twitter

07.07.2014 10:47  Первый выпуск PyPy-STM, интерпретатора Python с поддержкой многоядерных систем

После трёх лет разработки представлен первый официальный выпуск проекта PyPy-STM (PyPy Software Transactional Memory), в рамках которого развивается реализация языка Python, способная распараллеливать выполнение разных потоков одного многопоточного приложения на нескольких ядрах CPU. Разработка PyPy-STM направлена на устранение одной из основных проблем СPython - наличие глобальной блокировки интерпретатора (GIL, global interpreter lock), не позволяющей обеспечить параллельное выполнение нескольких нитей кода на языке Python.

PyPy-STM основывается на кодовой базе PyPy, высокопроизводительной реализации языка Python, написанной на языке Python (используется статически типизированное подмножество RPython, Restricted Python). Высокий уровень производительности достигается благодаря задействованию JIT-компилятора, на лету транслирующего некоторые элементы в машинный код. PyPy-STM полностью совместим с содержащей глобальную блокировку версией PyPy, т.е. может быть использован для выполнения обычных многопоточных приложений на языке Python, выступая в качестве прозрачной замены PyPy. Дополнительно, в стандартный модуль thread добавлен низкоуровневый API "thread.atomic", позволяющий более тонко управлять выполнением многопоточных приложений на разных ядрах CPU.

Для решения проблемы с распараллеливанием на многоядерных системах в PyPy-STM осуществлён переход от традиционных блокировок к программной транзакционной памяти, в качестве механизма для обеспечения параллелизма. Данный механизм по своей сути напоминает методы изоляции изменений, используемые в СУБД для обеспечения целостности транзакций. По производительности выполнения программ PyPy-STM приблизился к уровню PyPy, в основном благодаря задействованию единого JIT-компилятора и устранению узких мест в сборщике мусора (первые сборки PyPy-STM отставали по производительности от PyPy в 2-5 раз).

При выполнении однопоточных программ наблюдается заметное отставание от PyPy на 20% - 300%, но уже при запуске многопоточной программы на двух ядрах CPU PyPy-STM начинает опережать PyPy, при увеличении числа вовлечённых в выполнение ядер CPU разрыв увеличивается. Например, тест mandelbrot выполняется в PyPy за 22.9 сек, в PyPy-STM на одном CPU за 27.5 сек, на двух - за 14.4 сек, на трёх за 10.3 сек, на четырёх за 8.71 сек. В тесте multithread-richards наблюдается отставание от PyPy независимо от числа ядер CPU, в тесте btree производительность держится примерно на одном уровне. Поддержка распараллеливания проверена для базового Python-кода, должный уровень производительности и распараллеливания не гарантируется при использовании сторонних многопоточных библиотек или при прямых манипуляциях памятью через array.array или массивы numpy.

От проблем с глобальной блокировкой до настоящего времени был избавлен только проект Jython, который использовал для обеспечения параллельного выполнения особенности виртуальной машины JVM вкупе с привязкой локов к изменяемым встроенным типам. В PyPy, CPython и IronPython, глобальная блокировка присутствует, что существенно ограничивает производительность данных реализаций языка Python.

PyPy-STM пока поддерживает работу только на 64-разрядных платформах под управлением Linux, для сборки требуется модифицированная версия clang/llvm. Готовые для установки пакеты сформированы для выпусков Ubuntu с 12.04 по 14.04. В настоящее время стартовал сбор средств для второй фазы развития PyPy-STM, в рамках которой планируется решить остающиеся проблемы, провести оптимизации для различных внешних библиотек, обеспечить возможность распараллеливания различных фаз выполнения однопоточных программ, создать фреймворк для написания эффективных многопоточных приложений.

  1. Главная ссылка к новости (http://morepypy.blogspot.ru/2014/07/pypy...)
  2. OpenNews: Первый стабильный выпуск PyPy3 с поддержкой Python 3
  3. OpenNews: Выпуск PyPy 2.3, реализации Python, написанной на языке Python
  4. OpenNews: Представлен pypy-stm, интерпретатор Python с поддержкой распараллеливания на многоядерных системах
Тип: Программы
Ключевые слова: pypy-stm, python, (найти похожие документы)
При перепечатке указание ссылки на opennet.ru обязательно
Реклама
Обсуждение Линейный вид (Ajax) | Показать все | RSS
 
  • 1.1, свин, 11:45, 07/07/2014 [ответить] [смотреть все]
  • +/
    шёл 2014 год...
     
     
  • 2.2, bav, 11:52, 07/07/2014 [^] [ответить] [смотреть все] [показать ветку]
  • +9 +/
    … а GIL до сих пор мешает кому угодно, только не питонистам.
     
     
  • 3.3, via, 13:17, 07/07/2014 [^] [ответить] [смотреть все]
  • +/
    кто докажет, что это pypy-stm не глючит ... весь текст скрыт [показать]
     
     
  • 4.29, AlexAT, 21:18, 07/07/2014 [^] [ответить] [смотреть все]  
  • +/
    юнит-тесты ... весь текст скрыт [показать]
     
     
  • 5.30, Аноним, 22:46, 07/07/2014 [^] [ответить] [смотреть все]  
  • –1 +/
    Юнит-тесты доказывают лишь невменяемость некоторых программистов, ибо отнимают к... весь текст скрыт [показать]
     
     
  • 6.40, МММ, 07:38, 08/07/2014 [^] [ответить] [смотреть все]  
  • +2 +/
    И как ты будешь рефакторинг делать без тестов Тесты это такая штука, которая ... весь текст скрыт [показать]
     
  • 3.8, Аноним, 14:54, 07/07/2014 [^] [ответить] [смотреть все]  
  • +/
    Например, для web-разработки GIL не является узким местом, так как проблема реша... весь текст скрыт [показать]
     
     
  • 4.13, Аноним, 18:07, 07/07/2014 [^] [ответить] [смотреть все]  
  • +3 +/
    У веб разработчиков узким обычно вообще является другое место ... весь текст скрыт [показать]
     
  • 4.20, Филипп Филиппович, 19:54, 07/07/2014 [^] [ответить] [смотреть все]  
  • +/
    Если под веб-разработкой понимать сайтописательство, то несомненно Там всё реша... весь текст скрыт [показать]
     
     
  • 5.23, МММ, 20:42, 07/07/2014 [^] [ответить] [смотреть все]  
  • +1 +/
    И каким местом в асинхронных фреймворках мешает GIL ... весь текст скрыт [показать]
     
     
  • 6.33, Филипп Филиппович, 23:42, 07/07/2014 [^] [ответить] [смотреть все]  
  • +/
    Вот именно тем и мешает, что вместо нормальных потоков городится чёрт знает что,... весь текст скрыт [показать]
     
     
  • 7.37, МММ, 07:12, 08/07/2014 [^] [ответить] [смотреть все]  
  • +/
    В асинхронных фреймворках ничего не параллелится, на то они и асинхронные Весь ... весь текст скрыт [показать]
     
     
  • 8.41, Филипп Филиппович, 14:16, 08/07/2014 [^] [ответить] [смотреть все]  
  • +/
    Боже мой, идите и прочтите хоть что-нибудь Хотя бы вот это для начала http e... весь текст скрыт [показать]
     
     
  • 9.43, rob pike, 17:52, 08/07/2014 [^] [ответить] [смотреть все]  
  • +/
    Это что вы вот сейчас имели в виду Какие-то конкретные общеизвестные проблемы в... весь текст скрыт [показать]
     
     
  • 10.47, МММ, 18:25, 08/07/2014 [^] [ответить] [смотреть все]  
  • –1 +/
    Он просто бредит ... весь текст скрыт [показать]
     
  • 9.46, МММ, 18:25, 08/07/2014 [^] [ответить] [смотреть все]  
  • +/
    Во-во прочти-ка сам Какие блин отличия, внутри все те же, внезапно libev libe... весь текст скрыт [показать]
     
     
  • 10.49, Мимо проходил, 19:48, 08/07/2014 [^] [ответить] [смотреть все]  
  • +/
    Имеется в виду распределение асинхронных обработчиков не на 1 реактор, а сразу н... весь текст скрыт [показать]
     
     
  • 11.55, MM M, 20:06, 13/07/2014 [^] [ответить] [смотреть все]  
  • +/
    Gevent так и работает from gevent pool import Pool , в чём проблема с потоками ... весь текст скрыт [показать]
     
  • 5.27, bav, 20:59, 07/07/2014 [^] [ответить] [смотреть все]  
  • +/
    Внезапно, GIL сделан как раз с целью обеспечить работу простых потоков ... весь текст скрыт [показать]
     
     
  • 6.34, Филипп Филиппович, 23:45, 07/07/2014 [^] [ответить] [смотреть все]  
  • +/
    Бездну понимания прозреваю в словах ваших я Это один из существующих способов ... весь текст скрыт [показать]
     
     
  • 7.38, МММ, 07:16, 08/07/2014 [^] [ответить] [смотреть все]  
  • +/
    А других для интерпретируемых языков методов нет, точнее есть форк интерпретатор... весь текст скрыт [показать]
     
     
  • 8.42, Филипп Филиппович, 14:41, 08/07/2014 [^] [ответить] [смотреть все]  
  • +/
    Интересный штамп Интерпретируемый язык А что это такое Непрерывный парсин... весь текст скрыт [показать]
     
     
  • 9.44, rob pike, 17:57, 08/07/2014 [^] [ответить] [смотреть все]  
  • +/
    Не только в PyPy его ищут https speakerdeck com trent pyparallel-how-we-remov... весь текст скрыт [показать]
     
  • 9.45, МММ, 18:19, 08/07/2014 [^] [ответить] [смотреть все]  
  • +/
    Программа написанная на интерпретируемом языке не может выполняться отдельно без... весь текст скрыт [показать]
     
  • 9.48, МММ, 18:37, 08/07/2014 [^] [ответить] [смотреть все]  
  • +/
    Отличие в байт-коде, и методах его трансляции Они совсем разные Байт-код питон... весь текст скрыт [показать]
     
     
  • 10.56, Филипп Филиппович, 20:02, 27/10/2014 [^] [ответить] [смотреть все]  
  • +/
    А различие -- да, именно в неэффективной и устаревшей на сегодня ВМ и устаревшем... весь текст скрыт [показать]
     
  • 2.12, Аноним, 18:04, 07/07/2014 [^] [ответить] [смотреть все] [показать ветку]  
  • –2 +/
    А питонисты зарубались с рубистами из соседней новости кто больше версий не сов... весь текст скрыт [показать] [показать ветку]
     
  • 2.28, МММ, 20:59, 07/07/2014 [^] [ответить] [смотреть все] [показать ветку]  
  • +/
    Да всё банально Потоки используют для экономии памяти и времени на создание про... весь текст скрыт [показать] [показать ветку]
     
     
  • 3.31, Аноним, 22:49, 07/07/2014 [^] [ответить] [смотреть все]  
  • +/
    Тем более что в современном мире параллельность означает наличие многих машин, а... весь текст скрыт [показать]
     
     
  • 4.35, rob pike, 01:21, 08/07/2014 [^] [ответить] [смотреть все]  
  • +/
    Это вам в Cloud Haskell ... весь текст скрыт [показать]
     
     
  • 5.39, МММ, 07:18, 08/07/2014 [^] [ответить] [смотреть все]  
  • +/
    Зачем, есть Disco http discoproject org... весь текст скрыт [показать]
     
  • 3.50, Аноним, 21:08, 08/07/2014 [^] [ответить] [смотреть все]  
  • +/
    В нормальных операционных системах время создания процесса такое же как и потока... весь текст скрыт [показать]
     
  • 1.5, anonim66666, 13:55, 07/07/2014 [ответить] [смотреть все]  
  • +/
    если нужно что то быстро обсчитать(очень тяжелое), то проще и быстрее заиспользовать pyopencl. он в разы(на порядки, если на gpu) быстрее, чем на многопоточном python.
     
     
  • 2.15, Аноним, 18:09, 07/07/2014 [^] [ответить] [смотреть все] [показать ветку]  
  • –1 +/
    Учитывая что в opencl пишут на специфичном подвиде C, питон там вообще лишний эл... весь текст скрыт [показать] [показать ветку]
     
     
  • 3.22, МММ, 20:39, 07/07/2014 [^] [ответить] [смотреть все]  
  • +/
    А в pyopencl пишут таки на обычном питоне ... весь текст скрыт [показать]
     
  • 2.18, Антоним, 19:50, 07/07/2014 [^] [ответить] [смотреть все] [показать ветку]  
  • +/
    Не каждую задачу можно ускорить, запустив на GPU К тому же требует модификации ... весь текст скрыт [показать] [показать ветку]
     
  • 1.6, anonim66666, 14:00, 07/07/2014 [ответить] [смотреть все]  
  • +/
    считаем Mandelbrot Set на gpu за 41ms, а не за 9 сек и даже не за 23 ...
    http://www.bealto.com/mp-mandelbrot_benchmarks.html
     
     
  • 2.16, Аноним, 18:11, 07/07/2014 [^] [ответить] [смотреть все] [показать ветку]  
  • –3 +/
    Только GPU вообще питон выполнять не умеет, а opencl к питону весьма слабо относ... весь текст скрыт [показать] [показать ветку]
     
     
  • 3.21, МММ, 20:37, 07/07/2014 [^] [ответить] [смотреть все]  
  • +/
    С какого перепугу Theano http deeplearning net software theano ... весь текст скрыт [показать]
     
  • 1.9, Аноним, 15:46, 07/07/2014 [ответить] [смотреть все]  
  • –1 +/
    не нужно ... весь текст скрыт [показать]
     
  • 1.10, Аноним, 15:50, 07/07/2014 [ответить] [смотреть все]  
  • +/
    Это круто А как они проверяют отсутствие побочных эффектов внутри транзакций Э... весь текст скрыт [показать]
     
     
  • 2.19, Антоним, 19:52, 07/07/2014 [^] [ответить] [смотреть все] [показать ветку]  
  • +/
    Аппаратные реализации тоже неплохо работают Подробностей реализации, конечно же... весь текст скрыт [показать] [показать ветку]
     
  • 1.11, Anonymus, 17:04, 07/07/2014 [ответить] [смотреть все]  
  • +/
    То есть второй проц добавляет 90% производительности, а четвёртый всего-лишь 18. Апроксимируя получим 10% прирост на энный процессор. Вопрос: а накуя такое чудо?
     
     
  • 2.14, Аноним, 18:08, 07/07/2014 [^] [ответить] [смотреть все] [показать ветку]  
  • +/
    Вот такая вот хреновая многопроцессорность ... весь текст скрыт [показать] [показать ветку]
     
  • 2.17, bav, 18:50, 07/07/2014 [^] [ответить] [смотреть все] [показать ветку]  
  • +2 +/
    Это только прототип Места для оптимизаций там еще много А вообще это важная ве... весь текст скрыт [показать] [показать ветку]
     
     
  • 3.25, all_glory_to_the_hypnotoad, 20:47, 07/07/2014 [^] [ответить] [смотреть все]  
  • +/
    лучше не будет, STM в случае топика в принципе не масштабируется.
     
     
  • 4.26, bav, 20:54, 07/07/2014 [^] [ответить] [смотреть все]  
  • +/
    > STM в случае топика в принципе не масштабируется

    В новости написано обратное. И прогресс с предыдущей попытки налицо.

     
     
  • 5.32, all_glory_to_the_hypnotoad, 23:04, 07/07/2014 [^] [ответить] [смотреть все]  
  • +/
    Мало ли что там написано и какими надеждами живут разработчики PyPy-STM, фундаментальные проблемы всё равно остаются и решить они их не смогут.
     
     
  • 6.36, chinarulezzz, 02:06, 08/07/2014 [^] [ответить] [смотреть все]  
  • +1 +/
    расскажи о фундаментальных проблемах а еще лучше на здоровенную книжку линк, или скажи что всем и так это всё известно, и на форумах не раз обсуждалось :D
     
  • 2.52, Аноним, 22:58, 08/07/2014 [^] [ответить] [смотреть все] [показать ветку]  
  • +1 +/
    А закон Амдала никуда не делся Он, сцуко, вишь ты, фундаментальный Оверхед в р... весь текст скрыт [показать] [показать ветку]
     
  • 1.24, all_glory_to_the_hypnotoad, 20:46, 07/07/2014 [ответить] [смотреть все]  
  • –3 +/
    молодцы, заоптимизировали 20 потенциальных юз-кейсов и угробили остальные 80 ... весь текст скрыт [показать]
     
     
  • 2.53, Аноним рус, 11:18, 09/07/2014 [^] [ответить] [смотреть все] [показать ветку]  
  • +/
    Это может быть только ваши потребности такие, и ваши цифры, для других они другие.
     
  • 1.54, Аноним рус, 11:34, 09/07/2014 [ответить] [смотреть все]  
  • +/
    Есть данные по сравнению потребления оперативной памяти PyPy-STM и PyPy?
     

    Ваш комментарий
    Имя:
    E-Mail:
    Заголовок:
    Текст:
     
    Навигация
     
     Новости для экспорта XML
     В социальных сетях:  twitter  
     Сводные | за день | мини-новости
     Разделы новостей
     Что нового на OpenNet
     Поиск в новостях
     Новые комментарии
     Добавить свою новость

    Важное
    - 25.03 Релиз GNOME 3.16. Обзор новшеств (124 +50)

    Советы
    - 18.03 Подготовка качественных GIF-файлов из видео при помощи FFmpeg
    - 13.03 Обновление Debian Wheezy до Debian Jessie, не дожидаясь официального релиза
    - 12.03 Подавление шумов средствами PulseAudio
    - 23.02 Создание интерактивных графических моделей в CAS MAXIMA при использовании ОС GNU Linux
    - 05.02 Мониторинг температуры в Zabbix с использованием Digitemp

    Обсуждаемые новости
    - 00:19 Космическое агентство NASA открыло код платформы для создани (21)
    - 00:09 Релиз Samba 4.2.0. Прекращение поддержки Samba 3 (84)
    - 23:49 Второй кандидат в релизы инсталлятора Debian 8.0 (53)
    - 23:31 Студия Pixar представила бесплатную некоммерческую версию Re (38)
    - 23:06 Выпуск открытого медиацентра Kodi 14.2 (бывший XBMC)  (16)
    - 22:31 На GitHub обрушилась необычная DDoS-атака, проведённая через (110)
    - 20:10 Новая версия легковесного Linux дистрибутива antiX 14.4 (33)
    - 20:00 Доступна финальная бета-версия Ubuntu 15.04, ознаменовавшая  (157)


      Закладки на сайте
      Проследить за страницей
    Created 1996-2015 by Maxim Chirkov  
    ДобавитьРекламаВебмастеруГИД  
    RUNNet TopList
    п╡п╣я│п╣п╩я▀п╣ п╨п╟я─я┌п╦п╫п╨п╦ я─п╟п╥п╡п╩п╣п╨п╟я┌п╣п╩я▄п╫я▀п╣ пЁп╦я└п╨п╦ п╦п╫я┌я─п╣я│п╫я▀п╣ я└п╟п╨я┌я▀ я│п╪п╣я┬п╫я▀п╣ п╡п╦п╢п╣п╬ я│п╪п╣я┬п╫я▀п╣ п╦я│я┌п╬я─п╦п╦ п╦п╥ я│п╬я├я│п╣я┌п╣п╧