Multiprocessing: используем все ядра

Подписаться 18 тыс.

Просмотров 3,1 тыс.

50% 1

Поговорим про multiprocessing - способ реального распараллеливания задач на ядра компьютера. Multiprocessing позволяет решать любые задачи (IO-bound или CPU-bound)
Ускорение не идеально и возможно только до определенного предела, смотрим закон Амдала.
Создает несколько процессов, у каждого из которых своя память и свой GIL, каждый выполняет свою задачу, взаимодействие между ними требует pickle
API принципиально похоже на многопоточность, выгодно использовать Pool, а для взаимодействия между процессами Queue и Pipe
Плюсы:
+ реальная параллельность любых задач
+ не умирает из-за одного(!)
+ процессы не зависят друг от друга(у каждого процесса своя память и GIL)
Минусы:
- потребление ресурсов (памяти, процессора, времени)
- необходимость сериализации в pickle
- проблемы синхронизации (взаимодействие между процессами)
Читать:
docs.python.or...
Фаулер М. "Asyncio и конкурентное программирование на Python"
Присоединяйтесь к помощи каналу, будет интересно)
✔️Бусти boosty.to/pyth...
✔️Юмани 410011506612886
Будь первым везде и всегда, включай уведомления о новых выпусках 🔔
Смотри там где удобно🤩
✔️ python_...
✔️ boosty.to/pyth...
✔️ / pythonrussian
✔️ t.me/python_ru...
✔️ dzen.ru/python...
✔️ rutube.ru/chan...
#Python #PythonRussian #multiprocessing

Опубликовано:

26 сен 2024

Ссылка:

Скачать:

Готовим ссылку...

Добавить в:

Мой плейлист

Посмотреть позже

Комментарии : 24

@PythonRussian 5 месяцев назад

кто не подписан на канал, тот использует только одно ядро =)

@userEasyGame Месяц назад

Как у

@ЕгорСветличный-щ8ф 4 месяца назад

Огромное вам спасибо за ваш труд! Вы очень классный преподаватель и питонист, слежу за каналом уже давно. Прекрасно даёте первичную информацию и знакомите с различными инструментами. Отдельная благодарность за рекомендации крутейших книг и материалов, помогающих сформировать вектор дальнейшего обучения. Единственный минус - редко выходят ролики, но вас можно понять. Ещё раз спасибо, благодаря вашей деятельности по уши влюбился в Python!

@PythonRussian 4 месяца назад

спасибо, значит не зря стараюсь, приятно. По выходу роликов к сожалению ничего сделать не могу -дом, семья, работа. Вот на пенсии видимо наснимаю от души, а пока только по мере сил и времени

@DrillingEnglish 5 месяцев назад

Спасибо за ваш труд! 👍

@user-buser_eto_ja 5 месяцев назад

Отличнейшая подача! Спасибо!

@stevem4806 2 месяца назад

Спасибо!

@MioGesa-md2ul 5 месяцев назад

Коммент для благодарности вам и увеличение вовлеченности на канал 🎉

@neydygdrg1836 5 месяцев назад

Я так понимаю, что в книге Фаулера не только про asyncio, но и про потоки и мультипроцесы? Хотелось бы видос про виртуальное окружения venv, там вроде немного, но полезно

@PythonRussian 5 месяцев назад

да, он все темы рассматривает по конкурентности. Про венв - хорошая идея, запланирую

@stic5819 3 месяца назад

Здравствуйте, у вас отличные видео! Не думали ли разбавить канал смежными технологиями для работы питонистом: Celery, RabbitMQ, БД (NoSQL (Redis), SQL (PostgreSQL)), Архитектурные видео, системы логирования, devops базу, rest ful (типа про сети рассказать), такое вот?

@PythonRussian 3 месяца назад

я стараюсь снимать на максимально широкий круг питонистов, если уходить в специфическую тему, то многим станет не нужно\не интересно. Но кстати можно подумать про бд/хттп это обычно везде нужно

@stic5819 3 месяца назад

@@PythonRussian Такого качественного контента немного)) кажется, что может случится обратная ситуация с потоком людей, хотя вам виднее

@DmitryRomantsov 5 месяцев назад

Не-не, нас не проведешь! Мы поставим python 4 и все будет легко и просто!

@fr1ezz522 Месяц назад

Могу ли я создать несколько процессов и в каждом процессе несколько потоков, то есть миксовать process и thread?

@PythonRussian 26 дней назад

да, вполне, только не запутайтесь

@stvJnK 5 месяцев назад

Отличный материал, а что скажите насчёт aiomultiprocessing ?

@PythonRussian 5 месяцев назад

честно скажу -не использовал, подозреваю что может в отдельном процессе что-то выполнить а в лупе асинкио дождаться этого. Наверное в каких то ситуациях это может пригодиться, но я бы сначала в асинкио просто посмотрел нет ли такой возможности? Там же есть выполнить в отдельном потоке, возможно и для процесса есть.

@warmybo 5 месяцев назад

а потоки не тоже самое? потоки GIL обходят?

@PythonRussian 5 месяцев назад

посмотри пожалуйста мое видео про потоки, они могут обойти ГИЛ, но только для IO задач, в видео про потоки я как раз показывал разницу, когда на вычислительных задачах время не только не уменьшалось, но увеличивалось. Так что это не одно и то же на данный момент(!), когда отключат ГИЛ, возможно процессы и не понадобятся.

@warmybo 5 месяцев назад

@@PythonRussian спасибо большое)

@Миха-ь8х 5 месяцев назад

Привет. У меня проблема. Работают несколько процессов. Завершение через нажатие кнопки - процесс который поймал нажатие передаёт 'stop' в общую queue и завершается, остальные процессы ищут этот стоп в очереди и завершаются также. Это работает стабильно если не дольше примерно часа-двух. Но если например через 6 часов или сутки - то процесс который поймал нажатие клавиши завершается, а остальные просто перестают выполнять работу и зависают пока принудительно их не завершить. Есть идеи в чем дело?)

@PythonRussian 5 месяцев назад

смотри, при работе с конкурентностью, особенно с процессами надо густо все смазать логированием, прямо каждый шаг, это нужно чтобы по логам понять что и где произошло, на каком моменте отпало. Еще посмотри на таймауты, на очередь (это очередь из процессинга?), что там все ок, нет ли по коду вечных циклов. Кстати навел на мысль, сниму видео про логирование.